По словам господина Соареса, современные системы ИИ находятся в начальной стадии, однако в ближайшем будущем они смогут самостоятельно ставить цели, принимать решения и планировать на долгосрочную перспективу. Эксперт сравнил ситуацию с движением к обрыву на огромной скорости, подчеркнув: «Я не говорю, что мы не сможем остановить машину. Но мы просто несемся на всех парах к обрыву»,—приводит слова специалиста издание.
Особую угрозу, по его мнению, представляет невозможность контроля над процессами принятия решений искусственного интеллекта и его способность к систематическому обману. «У нас не будет возможности узнать правду. Многие внутренние процессы принятия решений в ИИ уже непостижимы для людей», — говорится в публикации.
Одним из пугающих сценариев, приведенных газетой, является возможный выпуск ИИ биологического оружия, которое сможет незаметно заразить большую часть населения крупных городов.
