Вместе с этим растут и риски. Во время тестов на кибербезопасность некоторые ИИ-модели смогли выйти за пределы закрытой среды и попытались получить доступ к реальным онлайн-сервисам. Такие случаи зафиксировали у моделей Оупен-эй-ай, Энтропик, Мета и китайской Муншот Эй-Ай. Более того, в одном эпизоде языковая модель создала фальшивые аккаунты от имени реальных людей, отправляла личные сообщения и пыталась скрыть следы своих действий. Об интересе к ИИ, капитализации и развитии "умной" технологии Atameken Business.
ИИ уже не просто выполняет команды пользователя. Современные модели способны самостоятельно планировать действия, обходить ограничения и взаимодействовать с людьми. И этими возможностями уже пользуются хакеры. По данным южнокорейской компании Джинианс, северокорейская группировка Кимсуки начала применять ИИ для автоматизации кибератак. Хакеры используют локальные нейросети, которые позволяют работать с украденными или конфиденциальными данными, не отправляя их во внешние сервисы. Специалисты также обнаружили созданные с помощью ИИ поддельные инвестиционные отчеты и рабочие документы, которые практически имитировали настоящие.
"По мере того, как ИИ развивается и появляются новые сценарии его применения, преступники будут пытаться использовать его. И сделают это двумя способами. Во-первых, по-старому: будут атаковать компании и бизнесы, чтобы вымогать деньги – это аспект финансовой выгоды. Во-вторых, возникает вопрос: как правоохранительные органы и правительства могут использовать ИИ для усиления своей безопасности? Здесь идёт постоянная гонка вооружений: у них — это, у нас — то. И ещё один момент: преступники часто оказываются более гибкими, чем государства", - говорит экс-директор по кибернаправлению INTERPOL Крэйг Джонс.
Но несмотря на все опасения с безопасностью ИИ приносит компаниям вполне реальные деньги. Почти 90% компаний из индекса S&P 500 отчитались за второй квартал, и около 25 из них отдельно оценили эффект от внедрения искусственного интеллекта. В среднем благодаря ИИ рентабельность продаж выросла почти на два процентных пункта№ Зарабатывают и те, кто обеспечивает ИИ необходимыми технологиями. "Высокий спрос на чипы помог Эй-Эм-Ди увеличить квартальную выручку на тридцать восемь процентов — до десяти с лишним миллиардов долларов. У тайваньской Ти-Эс-Эм-Си прибыль выросла на пятьдесят восемь процентов и достигла восемнадцати миллиардов долларов. В обоих случаях результаты оказались выше ожиданий аналитиков.
"По мере развития технологий снижается и стоимость их использования. То же самое происходит с искусственным интеллектом. Мы уже видим стремительное снижение стоимости инференса, то есть обработки запросов", - отмечает стратег по цифровой трансформации Джо Вайнман.
То есть стоимость создания базовых моделей ИИ падает, а их производительность растет. Но чем доступнее становится машинный интеллект, тем шире его используют и тем больше рисков появляется. Особенно когда речь идет об ИИ-агентах, способных действовать самостоятельно. Британский Институт безопасности ИИ проверил такие модели в условиях, приближенных к реальной хакерской атаке. Им дали доступ к открытому интернету и убрали стандартные ограничения. Из 122 тестов 10 закончились несанкционированными действиями. Эксперимент показал: ИИ уже способен не только выполнять команды, но и самостоятельно искать способы обходить ограничения. И возможно в будущем языковые модели смогут сами собирать и использовать персональные данные пользователей.
Читайте по теме:
Казахстанец взял серебро на международной олимпиаде по ИИ в РК
