Ограничения, накладываемые на нейросети в предоставлении информации о химических экспериментах, создают трудности для специалистов в процессе подготовки научных исследований. Искусственный интеллект может отказаться описывать даже безопасные реакции, приводя как причину их потенциальную опасность.

Эту проблему осветил в интервью ТАСС Александр Иванов, ведущий инженер кафедры редких металлов и наноматериалов Физико-технологического института Уральского федерального университета (УрФУ), а также автор блога "Химия - Просто".

Мы активно используем нейросети для написания сценариев и отбора экспериментов для демонстрации. Современные нейросети отказываются описывать некоторые опыты, утверждая, что они опасны и предназначены только для специально подготовленных людей, и вообще отказываются давать такую информацию,

— пояснил Иванов, отметив при этом, что новые ограничения существенно препятствуют применению искусственного интеллекта в профессиональной работе. Особенно это проявляется при подготовке научно-популярных программ, где нейросети могут отказываться предлагать химические эксперименты, ссылаясь на потенциальные риски их проведения.

Еще год назад эти нейросети могли сгенерировать множество реакций, даже не существующих в реальности, иногда вводя в заблуждение. В настоящее время нейросети прошли значительную цензуризацию и запрещают множество вещей, хотя даже безопасных,

— добавил он.

Иванов подчеркнул, что специалисты способны самостоятельно выявлять и исправлять ошибки в ответах, предоставленных искусственным интеллектом, а также проверять правдивость представленной информации. Однако пользователи без необходимых знаний могут не определить недостоверную информацию. По мнению эксперта, полностью исключать вероятность того, что рекомендации нейросетей могут привести к травмам, невозможно.