28 марта в Европоле предупредили о потенциальном неправомерном использовании чат-бота ChatGPT. Речь идет о попытках фишинга, дезинформации и киберпреступности, передает inbusiness.kz со ссылкой на Reuters.
"Поскольку возможности LLM, таких как ChatGPT, активно совершенствуются, потенциальная эксплуатация этих типов систем ИИ преступниками дает мрачные перспективы", — заявили полицейские.
Агентство выпустило первый технический отчет, в котором авторы выделили вредоносное использование чат-бота в трех сферах преступности:
- фишинга;
- целенаправленного преследования жертв;
- создания и распространения дезинформации.
"Способность ChatGPT создавать очень реалистичный текст делает его полезным инструментом для целей фишинга", — заявили в Европоле.
Согласно отчету, способность чат-бота воспроизводить языковые модели для имитации стиля речи конкретных людей или групп дает возможность преступникам целенаправленно преследовать жертв.
Правоохранители также считают, что умение ChatGPT создавать достоверно звучащий текст в масштабе делает его идеальным инструментом для пропаганды и дезинформации:
"Это позволяет пользователям генерировать и распространять сообщения, отражающие конкретное повествование, с относительно небольшими усилиями".
Согласно Европолу, преступники с небольшими техническими знаниями могут обратиться к ChatGPT для создания вредоносного кода.
Напомним, ранее Стив Возняк сообщил о вероятности ужасных ошибок, говоря о ChatGPT.
