Во время выездного заседания Общественной палаты при мажилисе парламента РК управляющий директор по искусственному интеллекту АО "Национальные информационные технологии" Алексей Самойлов рассказал, как можно улучшить законопроект об искусственном интеллекте, передает inbusiness.kz.
По его словам, следует предусмотреть ряд уточняющих механизмов на уровне подзаконных актов и процедур.
"Представляется обоснованным внедрение института этической экспертизы, особенно для тех ИИ-решений, которые применяются в социальной и правовой плоскости. Такая экспертиза может быть реализована через создание междисциплинарных этических комитетов, оценивающих соответствие ИИ-систем этическим принципам и правам человека. Целесообразно предусмотреть требования к сертификации и независимому аудиту систем ИИ. Сертификация поможет установить соответствие ИИ-продуктов определенным критериям безопасности, прозрачности и надежности, а аудит обеспечит независимую оценку соблюдения этих стандартов, особенно в сферах здравоохранения, правосудия, социальной защиты", - сказал Самойлов.
Он также рекомендует разработать методические подходы к оценке рисков ИИ-систем, включая классификацию систем по степени потенциальной угрозы — от низкой до высокой. Это позволит более точно определять допустимость их внедрения в различные сектора и условия эксплуатации.
"Представляется полезным учитывать опыт Европейского союза, закреплённый в Европейском акте об ИИ (AI Act), где к системам высокого риска применяются строгие требования: обязательная регистрация, аудит, ограничение на использование генеративных моделей при отсутствии прозрачности. Внедрение аналогичных положений позволит усилить доверие к технологии со стороны общества и снизить системные риски. Также рекомендуется развивать правовые нормы, регулирующие создание и использование национальных языковых моделей, с учетом положений Концепции развития ИИ РК. Это включает в себя определение стандартов для сбора и обработки лингвистических данных, а также поддержку отечественных разработок в целях цифрового суверенитета", - продолжил представитель АО "НИТ".
Кроме того, по его словам, для защиты персональных данных желательно закрепить обязательность применения технических и институциональных мер: регулярный аудит алгоритмов на предмет предвзятости, использование решений с учетом принципов справедливости (fairness-aware AI), а также наличие процедур обжалования автоматизированных решений и механизмов общественного контроля.
"Мы поддерживаем принятие законопроекта и предлагаем продолжить его доработку с учетом международного опыта, в том числе Европейского акта об ИИ, а также целей Концепции развития искусственного интеллекта Республики Казахстан. Это обеспечит доверие общества, устойчивость отрасли и приток инвестиций", - подчеркнул Самойлов.
По его мнению, законопроект "Об искусственном интеллекте" соответствует международным тенденциям и заложит основы для безопасного, этичного и эффективного внедрения ИИ.
Читайте по теме:
На каком этапе находится создание суперкомпьютера
