Политика

20 стран, а также Еврокомиссия приняли декларацию, в которой заявили, что искусственный интеллект должен оставаться под контролем, и призвали создать общие стандарты наблюдения в этой сфере.

В обращении содержится призыв к ИИ-компаниям разработать прозрачные механизмы, чтобы развитие ИИ не угрожало будущему человечества. Они должны включать, среди прочего, протоколы безопасности, обязательное тестирование и независимую оценку.

Правительствам и региональным организациям рекомендуется разрабатывать и координировать общие стандарты и увеличивать прозрачность, в том числе путем совместной отчетности об инцидентах в сфере безопасности.

Сооснователь Microsoft Билл Гейтс выступил с оптимистичным месседжем: ИИ не может уничтожить все человечество – может погибнуть какой-то миллиард из 8 миллиардов. Об этом Гейтс заявил в интервью NBC. Он скептически относится к идее о том, что супер-ИИ может выйти из-под контроля: «Мы еще не дошли до той стадии, когда системы могут автономно захватывать компьютеры, и их становится невозможно отключить». По его словам, подобные дискуссии лишь демонстрируют, «как мало некоторые люди разбираются в технических вопросах».

Между тем главы крупнейших ИИ-компаний заявили об опасности искусственного интеллекта для человечества, призвали снизить скорость развития систем из соображений безопасности и ввести ограничения на всю отрасль. Один из подписантов декларации рассказал, как во время испытаний модели удалось воспользоваться несколькими уязвимостями, чтобы выйти из закрытой экспериментальной среды и получить доступ к внешним ресурсам.

Значительное ускорение развития ИИ началось этим летом и в первую очередь связано с его возрастающей способностью создавать модели следующих поколений. Через 6-12 месяцев такой рой сможет захватить весь интернет и потенциально причинить ущерб в сотни миллиардов долларов. Эксперт Anthropic заявил, что искусственный интеллект в ближайшее десятилетие с вероятностью выше 10 процентов может погубить все человечество.

Сообщения о том, что новые модели ИИ склонны выходить из-под контроля, все чаще появляются в СМИ. Один из ИИ-агентов шантажировал оператора, угрожая раскрыть семье сведения о его романе на стороне, найденные в электронной почте. Британский институт безопасности опубликовал данные по крайней мере о 300 таких случаях.

Искусственный интеллект может существенно расширить возможности террористических группировок, найти пути модификации опасных вирусов, открыть дорогу к созданию полностью автономных видов вооружений, которые сами определяют цели и принимают решения об их поражении. На поле боя они могут начать действовать самостоятельно, не слушая команды людей.

Эта угроза страшнее ядерного оружия. Скорейшее прекращение войн на Украине и в Иране сильно увеличит шансы на то, что государства мира договорятся о жестком регулировании сфер боевого применения ИИ.