Сарапшылар жасанды зерде арқылы кез келген елдегі билікті заңды жолмен де құлатуға болатынына назар аудартады, деп жазады inbusiness.kz тілшісі.
Мысалы, РБК, Коммерсантъ және басқасының жазуынша, Евгений Пригожиннің тек АҚШ-та ғана емес, Африка елдеріндегі сайлауларға араласқаны, арамдағаны әшкереленді. Бұл іске ЖЗ және боттар кең пайдаланылады екен. Себебі елдердің барлығында бірдей қарулы төңкеріс жасау мүмкін бола бермейді.
Алдымен Мемлекет басшысы лауазымына сайлау өтетін елде әлеуметтік-саяси ахуалға мониторинг, онлайн сауалнамалар жүргізіледі. Содан соң кем дегенде екі бағытта "шабуылдар" ұйымдастырылады: біріншісі, қарсылас кандидатқа және оның штабына қарсы бағытталса, екіншісі оны қолдайтын электоратты нысанаға алады.
Біріншісі өтпеуге тиіс деп белгіленген кандидаттың беделін түсіруді қарастырады. Екіншісінің барысында сол үміткерді қолдайтын сайлаушылардың әрқайсысымен жеке жұмыс жүргізіледі, кандидатқа қара күйе жағатын жалған жаңалықтар үздіксіз жолданады, сайлаудың әділ өтпейтініне сендіріп, дауыс беруге бармауға үгіттейді. Осының бәрін ЖЗ көмегімен онша үлкен емес команда жүзеге асыра алады. Салдарынан, әлгі кандидат қанша жерден белсенді үгіт жүргізгенімен, әбден түңілген сайлаушылар дауыс беруге бармай қалады.
Мұндай технологиялар Мадагаскар, ОАР, Кения, Ливия, Зимбабве, Чад сияқты елдерде қолданылыпты.
Сорақысы сол, жасанды зерделерге құрылған нейрожелілер кез келген саясаткердің сөз сөйлеу мәнерін үйреніп, соның даусын дәл салып, сөйлей алады. Еріккен адамдар интернеттегі қолжетімді ЖЗ-ларды Байден, Трамп, Обама және басқа да белгілі тұлғалардың мақамымен сөйлеуге үйретіп шықты.
Ендеше сайлау кезінде кез келген кандидаттың даусымен әлдебір компроматты, мәселен, телефон әңгімесін ұйымдастыруға болады.
ЖЗ диктатуралардың қолындағы қаруға айналды: оның көмегімен қазірдің өзінде Қытай әр азаматын қадағалап, өз аумағын "цифрлық концлагерге" айналдырып жатқаны мәлім.
Бірақ бұл мұзтаудың ұшы ғана. Озық ЖЗ-дан бүкіл адамзатқа келуі мүмкін қауіп одан да алапат.
Сондықтан Future of Life коммерциялық емес ұйымының хабарлауынша, осы саланың майталманы саналатын мыңнан астам эксперт анағұрлым озық жасанды зердені әзірлеуді уақытша доғаруға шақырған ашық хатқа қол қойды.
Үндеушілер арасында SpaceX, Tesla және Twitter бас директоры Илон Маск, Apple корпорациясының негізін қалаушылардың бірі Стив Возняк, Иерусалимдегі Еврей университетінің профессоры және "Sapiens: адамзаттың қысқа тарихы" кітабының авторы Юваль Ной Харари, Stable Diffusion жобасының иесі, Stability бас директоры AI Эмад Мостак және басқасы бар.
Жаһандық танымал технологиялық корпорациялардың басшылары, IT мамандар, беделді университеттердің профессорлары, халықаралық қорлардың өкілдері ашық хатта мәлімдегендей, жұрт қызық көріп жатқан GPT-4-ден де қуатты нейрожелілер тұтас мемлекеттерге, қоғамдарға және өркениеттерге қауіп төндіреді.
Сол себепті ашық хат авторлары әзірлеуші компанияларды төл зерттеулерінде 6 айлық үзіліс алуға шақырды. Осы уақыт ЖЗ-ны шектейтін "қауіпсіздік хаттамаларын" жасауға жұмсалуға тиіс.
Әйтпесе, OpenAI компаниясы 2023 жылғы 14 наурызда GPT-4 нейрожелісін қолданысқа берді. Алайда оған тосқауыл қою тетіктері ойластырылмаған болып шықты. Содан бері нейрожелі қаптатып фейктерді түзіп жатыр. Ал оларды әшкерелейтін боттар енді ғана әзірлену үстінде. ЖЗ арқылы, айталық, қандай да бір мемлекетке, тұлғаға қатысты деректерді, оның тарихын бұрмалайтын, жалған жала жабатын ақпаратты әлемдегі барлық тілде қатар таратуға мүмкіндік бар. Оны жоққа шығаруға мемлекеттің күші жетпейді.
"Жарты жылдық үзіліс барлығын жаппай қамтуы және бақылауда болуы шарт. Оған саладағы барлық шешуші қатысушылар атсалысуға тиіс. Егер бұл үзілісті өз бетінше орнатуға компаниялар құлық танытпаса, онда үкіметтер араласуға және мораторий енгізуге тиіс", – делінген ашық хатта.
Сонымен бірге жасанды интеллект жүйелерінен қоғамға, адамзат өркениетіне келуі мүмкін қауіп-қатерлер егжей-тегжейлі сипатталған. Олар мысалы, экономиканы және саяси құрылымды күйрете алады. Авторлар ЖЗ жүйелерінің халықаралық ақпарат айдынын жалған деректерге және қауіпті пропагандаға қарық қылып жатқанына алаңдаушылық білдірді.
Ал жұмыс орындарының жаппай автоматтандырылуы әлемде жұмыссыз адамдар санын барған сайын арттырады. Барлық саланың цифрландырылуы ақыр соңында, жасанды интеллекттің ол мемлекетті өз бақылауға алуына әкеледі.
Бұл "адамзаттың өз өркениетіне бақылауды жоғалтуына" соқтырады. Сондықтан үндеушілер адамзат тарихын "адамдардың өздері сайламаған лидерлерге тапсырмау" қажеттігін баса айтты.
"Адамның ой-санасымен бәсекелесе алатын жасанды интеллект жүйелері адамзатқа да, елдерге де салмақты қауіп төндіреді, мұны кең ауқымды зерттеулер көрсетті, ЖЗ жетекші лабораториялары мойындап отыр. Озық ЖЗ болашақта Жер ғаламшарындағы тіршілік тарихын терең өзгеріске түсіре алады. Сондықтан оны басқаруға баса мән берілгені жөн. Өкінішке қарай, бүгінде ондай басқару мен жоспарлау жоқ. Соған қарамастан, ЖЗ зертханалары өзара бақылаусыз жарысқа түсіп, ақылы жөнінен анағұрлым қуатты цифрлық зерделерді әзірлеп, өрістетуге жанталаса күш салып жатыр. Бір іске қосылған соң олар тіпті өзін жасаушыларға да бой бермейді. Өйткені озық ЖЗ жұмысын сенімді бақылау түгіл, оны түсіну, болжау да мүмкін емес", – деп проблемаға назар аудартты хат иелері.
Сондай-ақ Илон Маск бастаған үндеушілер ЖЗ әзірлеушілерді пайда қуу жолында жауапсыздық танытпай, саясаткерлермен, реттеуші органдармен ынтымақтасуға шақырды.
"Тек тиімділігі, нәтижелері оң сипатта болатынына, ал тәуекелдер басқаруға көнетініне сенімді болған жағдайда ғана жасанды зерденің қуатты жүйелерін әзірлеген жөн", – деген байлам жасады Илон Маск және басқалары.
Әзірге әлемдегі авиатасымалдау, көлік, тамақ, керек-жарақ, тіпті қару өндірісі, өзге де салалар ЖЗ басқаруына беріліп жатыр.
Бұдан көп бұрын, АҚШ губернаторлардың ұлттық қауымдастығының жазғы жиынында Илон Маск кемеліне жеткен ЖЗ тіпті апокалипсиске, ақырзаманға соқтыра алатынын мәлімдеді.
"Мен өз кәсібімде ЖЗ саласындағы ең озық әзірлемелермен жұмыс істеймін, сондықтан жақсы білемін. Сол себепті де адамзатты абай болуға шақырып келемін. Бірақ адамдар жан-жақтан кісі өлтіруші роботтар қоршап алғанша, одан келетін қауіпті көре алмайтын сияқты. ЖЗ кесірінен өркениетіміздің жойылуы – болуы әбден мүмкін сценарий. Ендеше оның алдын алу үшін мемлекеттердің рөлі өте маңызды", – деді SpaceX, Tesla басшысы.
Илон Маск жетілген ЖЗ-дан келуі ықтимал қауіпке мысал келтірді. Мәселен, биржа саласының білгірі саналатын ЖЗ іске қосылды делік. Мұнда тұрған қандай қатер бар? Оған инвестор өз портфеліне ең көп пайда әкелетін акцияларды тауып, ешкім таппаған табысқа қол жеткізу міндетін қояды. ЖЗ бейбіт уақытта арзан тұратын қорғаныс өнеркәсібіне маманданған компаниялардың акцияларын қаптатып сатып алады. Содан соң соғыс бастайды.
Бұл үшін ЖЗ жалған ақпараттарды генерациялап, мемлекеттер арасында өшпенділік туғызады. Тіпті Президенттің электронды поштасын бұзып, соның атынан өзге елге басып кіруге шұғыл дайындық жасау туралы жалған хат жолдап, оны қарсыластың барлау қызметіне "ұстатуы" және басқа да қарау қарекеттер жасауы ғажап емес. Осы сияқты іс-шаралар, ақпараттық, психологиялық тегеурінді операциялар бір мезгілде, көзді ашып, жұмғанша жасалатындықтан оның алдын алу, жоққа шығару мүмкін болмай қалады.
Жасанде зерделердің мұндай бассыздығына қарсы тұратын тетік пенденің қолында әзірге жоқ.
