Автор книги Sapiens сравнил ChatGPT c оружием массового поражения

1091

ChatGPT в некотором роде опаснее ядерной бомбы, поскольку она не может сама создать еще более мощное атомное оружие.

Автор книги Sapiens сравнил ChatGPT c оружием массового поражения Фото: pixabay.com

Искусственный интеллект может использоваться для благих целей — поиска лекарства от рака или решения экологического кризиса, но он несет и критическую угрозу для человеческой цивилизации за счет способности самостоятельно создавать уникальные тексты, музыку и изображения, заявил историк, писатель и автор "Sapiens: Краткая история человечества" Юваль Ной Харари в статье для The Economist, передает inbusiness.kz со ссылкой на РБК.

Ученый отметил, что почти вся человеческая культура построена на языке, поскольку она является совокупностью произведенных человеком артефактов, которые люди создали: права человека, религии, законы. Нейросеть, которая умеет генерировать подобные тексты за человека, фактически, "взламывает операционную систему нашей цивилизации".

Многие увлечены случаями, когда ChatGPT или другая нейросеть помогла школьникам написать эссе, однако следует представить, что искусственный интеллект будет использован для производства политического контента, фейковых новостей и "священных писаний для новых культов" по типу американского сообщества с конспиративными идеями QAnon, предложил писатель.

Ученый напомнил, что в интернете много дискуссий, в которых люди спорят о конфликте на Украине, изменении климата и абортах, причем на самом деле они ведут дискуссию с ботами. Можно не пытаться изменить "мнение" искусственного интеллекта, однако ИИ может искусно подбирать ответы, чтобы повлиять на человека, предупредил он.

Кроме того, искусственны интеллект может саморазвиться вне контроля человека.

"В то время как ядерные бомбы не могут сами изобрести более мощное ядерное оружие, искусственный интеллект может создать экспоненциально более мощный искусственный интеллект", — предупредил Ной Харари.

ChatGPT — один из самых популярных ИИ-сервисов. Это чат-бот с искусственным интеллектом, который способен вести диалог, сочинять стихи и прозу, резюмировать научные статьи и генерировать изображения по запросу пользователей.

Ранее сообщалось, что против ChatGPT выступают Маск, Возняк и Ной Харари.

Telegram
ПОДПИСЫВАЙТЕСЬ НА НАС В TELEGRAM Узнавайте о новостях первыми
Подписаться
Подпишитесь на наш Telegram канал! Узнавайте о новостях первыми
Подписаться