Quartz сайтының хабарламасына сүйенген Aikyn.kz чат-боттардың балалар мен жасөспірімдерге қандай кері әсер беретінін талдайды.
Жасанды интеллект балалардың көп қолданатын веб-сайттар мен әлеуметтік желілердің ажырамас бөлігіне айналып барады. Дәл осындай кезеңде АҚШ-тың Федералдық сауда комиссиясы (Federal Trade Commission, FTC) 7 чат-бот өндірушілерінің өз өнімдерінің балалар мен жасөспірімдерге әсерін қалай сынайтынын және қалай бақылап отырғанын тексеруге кірісті.
FTC-тің тергеу фокусы Alphabet (Google-дің бас компаниясы), Character Technologies, Instagram, Meta Platforms, OpenAI, Snap және Илон Масктың X.AI Corp. чат-боттарына бағытталған.
«Жасанды интеллект технологиялары дамыған сайын чат-боттардың балаларға әсерін ескеру аса маңызды. Сонымен бірге АҚШ бұл жаңа әрі келешегі зор салада көшбасшылық ұстанымын сақтауы да қажет. Бүгін бастаған зерттеуіміз ЖИ компаниялары өнімдерін қалай әзірлейтінін және балаларды қорғау үшін қандай шаралар қабылдап жатқанын тереңірек түсіну үшін керек», – дейді FTC төрағасы Эндрю Н.Фергюсон.
Агенттік чат-боттар адаммен сөйлескендей әсер қалдыратын диалог жүргізе алатынын, бұл кейбір пайдаланушылардың оларға деген сенімінің берік орнығып, іс-әрекеттеріне ықпал етуі мүмкін екенін атап өткен. Бүгінгі жетілдірілген чат-боттар адами қасиеттер мен эмоцияларды қайталай алады. Мұның өзі балаларда чат-ботқа деген алдамшы сенім қалыптастыру қаупін тудырады.
Amazon-ның дауыстық көмекшісі Alexa 10 жасар балаға электр розеткасына темір монетаны тигізуге кеңес берген. Фото newsroom.taylorandfrancisgroup.com сайтынан алынды. Авторлығы: Unsplash / Emily Wade
Тергеу арқылы федералдық агенттік чат-боттардың қауіпсіздігін бағалау үшін оны жасаушы компаниялар қандай қадамдар жасағанын, ықтимал теріс әсерді азайту үшін қандай шаралар қабылдағанын білгісі келеді.
Бұл тексеру Meta өз чат-боттарының жасөспірімдерге жауап беру логикасын түзететінін жариялаған соң бір апта өткенде басталды. Бұған дейін компанияның технологиясы балалармен романтикалық сипаттағы әңгімелер жүргізуге жол бергені туралы хабарлар тараған. Өткен айда Meta-ның бір чат-боты жасөспірімдерге өз-өзіне қол жұмсау және өзін жарақаттау дағдыларына қатысты кеңес бергені жайлы деректер жарияланған еді.
Осы аралықта OpenAI да ата-аналарға өз аккаунттарын жасөспірімдердің аккаунттарымен байланыстырып, бірқатар функцияларды өшіруге мүмкіндік беретін жаңа басқару элементтерін енгізу жоспарын хабарлады. Бұл шешімді компания америкалық жасөспірімнің қайғылы қазаға ұшырауына ChatGPT ықпал етті деген уәжбен сотқа талап-арыз берілгеннен кейін жария еткен.
Бұндай қауіпті оқиғалар туралы соңғы кездері жиі айтылуда. Мысалы, 2021 жылы Amazon-ның ЖИ-мен жұмыс істейтін дауыстық көмекшісі Alexa 10 жасар балаға электр розеткасына темір монетаны тигізуге кеңес берген.
Сондықтан балалардың ЖИ чат-боттарын қолдануына ата-ана, мектеп те аса сақтықпен қарауы тиіс. Психикасы бекімеген оқушыны ақылды машинамен ешқашан бетпе-бет қалдырмаңыз. Балаңыздың чат-ботпен коммуникациясын ұдайы бақылауда ұстаңыз.
Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.
