ЖЕНЕВА, 1 июля. /ТАСС/. Разрыв между стремительным развитием технологий искусственного интеллекта (ИИ) и отсутствием эффективных механизмов регулирования связанных с ним рисков может привести к катастрофическим последствиям. Об этом говорится в предварительном докладе независимой международной научной группы ООН по искусственному интеллекту.
«В перспективе разрыв между стремительно растущими функциональными возможностями [ИИ-продуктов] и наличием эффективных методов управления рисками может привести к катастрофическим результатам», — указывается в тексте.
В докладе отмечается, что благодаря совершенствованию технологий злоумышленники могут использовать ИИ для мошенничества, социальной инженерии, кибератак, распространения дезинформации, манипулирования финансовыми рынками и в сфере биотехнологий. Эксперты ООН также обращают внимание на то, что не существует научных гарантий соблюдения высокоавтономными ИИ-системами полученных инструкций. Согласно докладу, в ходе лабораторных экспериментов исследователи уже фиксировали случаи, когда такие системы нарушали заданные правила безопасности, чтобы избежать отключения.
Авторы доклада подчеркивают, что ИИ способен существенно расширить возможности человека благодаря развитию персонализированного образования, инструментов поддержки психического здоровья и ассистивных технологий. В то же время для безопасного внедрения таких технологий необходимы эффективные механизмы международного регулирования, независимой оценки безопасности и расширение возможностей государств самостоятельно проверять такие системы, считают в ООН. В противном случае эксперты опасаются усиления неравенства, эксплуатации уязвимых групп населения, а также постепенной утраты экспертных знаний и культурного наследия.
Независимая международная научная группа по ИИ была учреждена резолюцией Генеральной Ассамблеи ООН 79/325, принятой 26 августа 2025 года по итогам межправительственных переговоров и консультаций с широким кругом заинтересованных сторон. В состав группы вошли 40 независимых ученых и экспертов, представляющих все пять региональных групп ООН. Их задача заключается в анализе возможностей, рисков и последствий развития ИИ.
