Бывший инженер Google и Microsoft, а ныне глава Machine Intelligence Research Institute Нейт Соарес заявил, что риск вымирания человечества из-за искусственного интеллекта составляет не менее 95%, если технологии продолжат развиваться в текущем темпе. Его слова приводит издание The Times.
По мнению Соареса, современные ИИ-системы пока остаются инструментами, но это лишь этап. В будущем машины сначала достигнут уровня общего интеллекта, а затем перерастут его, превратившись в сверхразум. Такие системы смогут действовать автономно, ставить цели, обучаться, управлять ядерным синтезом или разрабатывать лекарства. Но — и это главное — они могут стать неконтролируемыми. Одним из возможных сценариев он назвал создание и распространение ИИ-оружия, например биологического, способного незаметно стереть с лица Земли крупные города.
Ранее об угрозах ИИ предупреждал и глава OpenAI Сэм Альтман: он указывал на опасность масштабных фальсификаций — от поддельных голосов до фейковых видеозвонков, которые скоро станет невозможно отличить от реальности.