Экс-инженер компаний Google и Microsoft, глава некоммерческой организации Machine Intelligence Research Institute Нейт Соарес заявил, что вероятность гибели человечества из-за развития искусственного интеллекта составляет как минимум 95%, передает inbusiness.kz со ссылкой на ТАСС.
"Вы можете сделать умные компьютеры, не имея ни малейшего представления о том, что они делают. Вы берете огромный объем вычислительных мощностей и бросаете его на воистину гигантский объем данных так, что это каким-то образом изменяет компьютеры. Никто не знает, что происходит внутри этих вещей", — сказал он.
По словам Соареса, его организация ставит своей задачей создание безопасного искусственного интеллекта и исследование потенциальных рисков, связанных с технологическим прогрессом. Эксперт сравнил текущую ситуацию с машиной, мчащейся к пропасти:
"Я не говорю, что мы не можем остановить автомобиль, но мы просто на полных парах летим к обрыву".
СМИ США отмечают, что в данный момент искусственный интеллект находится на начальной стадии развития, которую называют узким или слабым ИИ. Однако некоторые специалисты полагают, что уже в ближайшие 12 месяцев он может достичь уровня общего или сильного ИИ, что позволит машинам мыслить на уровне человека. На следующем этапе может появиться искусственный суперинтеллект, способный решать задачи, которые пока находятся за пределами человеческих возможностей, включая лечение рака и межгалактические перелеты.
При этом в публикации подчеркивается, что при развитии таких технологий не исключен риск, что искусственный интеллект начнет воспринимать человечество как препятствие собственным целям.
Сценарий, озвученный Соаресом, СМИ США называют крайне негативным. В то же время существуют и более умеренные прогнозы. Так, исполнительный директор движения PauseAI Холли Элмор оценивает вероятность гибели человечества из-за ИИ (так называемый P(doom)) в 15-20%. Американский миллиардер Илон Маск также считает этот риск равным 20%, а генеральный директор Google Сундар Пичаи оценивает его на уровне 10%. Как указывает издание, на фоне прогноза Соареса, эти оценки выглядят относительно оптимистичными.
Читайте по теме:
Концепция из 1940-х поможет научить ИИ думать
