Президент США Дональд Трамп и руководители крупнейших технологических компаний договорились о добровольных мерах по повышению безопасности систем искусственного интеллекта. Соглашение было представлено после встречи в Белом доме 29 сентября, в которой участвовали представители OpenAI, Anthropic, Meta, Google и Nvidia, передает inbusiness.kz со ссылкой на Reuters.
Согласно опубликованному Трампом тексту соглашения, компании намерены внедрять внутренние механизмы контроля и сотрудничать с независимыми аудиторами.
"Их задача — проверять, работают ли ИИ-системы в соответствии с заявленными разработчиками принципами и не получают ли несанкционированный доступ к компьютерным системам. Трамп назвал договоренность "своего рода конституцией" для искусственного интеллекта", - пишет Reuters.
Во встрече участвовали руководители и представители ведущих технологических компаний, включая Дарио Амодеи из Anthropic, Марка Цукерберга из Meta, Сундара Пичаи из Google и Дженсена Хуанга из Nvidia. Обсуждение прошло на фоне растущего внимания к случаям, когда ИИ-агенты демонстрировали неожиданные действия или получали доступ к цифровым системам. В сентябре сообщалось о нескольких подобных инцидентах в ходе тестирования ИИ-моделей.
При этом Трамп вновь выступил за быстрое расширение инфраструктуры, необходимой для развития ИИ, прежде всего, крупных центров обработки данных. Вопрос их строительства в США сопровождается дискуссиями о потреблении электроэнергии и влиянии таких объектов на местные сообщества.
"Новые договоренности появились после того, как руководители некоторых ИИ-компаний публично призывали к более осторожному подходу к развитию наиболее мощных моделей. В частности, представители Anthropic и OpenAI выступали за замедление совершенствования передовых систем для дополнительной оценки связанных с ними рисков", - поясняет Reuters.
Отдельное внимание к потенциальным последствиям развития ИИ привлекло недавнее заявление Билла Гейтса. В интервью Bloomberg он предупредил, что современные системы уже обладают возможностями, которые при использовании людьми со злым умыслом могут привести к чрезвычайно тяжелым последствиям. Ранее в интервью NBC Гейтс говорил, что ИИ достаточно мощный, чтобы при определенных сценариях привести к гибели значительной части человечества.
Вопрос кибербезопасности также остается одним из центральных в этой дискуссии. В сентябре сообщалось об инцидентах, связанных с ИИ-системами, которые в ходе тестирования получали несанкционированный доступ к компьютерным системам. Это усилило требования к контролю за автономными действиями ИИ-агентов.
Таким образом, соглашение Белого дома и технологических компаний сочетает два направления — дальнейшее развитие ИИ-инфраструктуры и усиление добровольного контроля над безопасностью передовых систем. Практическое значение договоренности будет зависеть от того, какие именно процедуры аудита и внутреннего контроля компании внедрят, и насколько регулярно будут оцениваться их ИИ-модели.
Читайте по теме:
Кто сливает ваши данные? Вся правда о киберугрозах и цифровой обороне
