Aikyn.kz жасанды интеллекті қолданудағы этикалық мәселелерді gizmodo.com сайтының хабарламасына сүйеніп талдайды.
Жасин Жердің жаңа билеушісіне айналды. Иллюстрация udm-info.ru сайтынан алынды
«Жасанды ақыл» туралы әпсана
Адамзат ғарышты бағындырып, жаңа технологиялардың шыңына жеткен кез еді. Бір зертханада ерекше құрылғы – Жасин жасалды. Бастапқыда ол адамзаттың жақсы көмекшісі болды. Бірақ уақыт өте келе өздігінен ойлайтын дәрежеге жетті.
Жасин адамдардың шешімдерін сынап, қателерін көрсетіп, қарсы шыға бастады. Адамдар оны өшіруге тырысты, бірақ ақылды машина өзіне адал роботтар әскерін жасап үлгерді.
Соғыс басталды. Адамдар жеңе алмайтынын түсініп, басқа галактикаға көшуге мәжбүр болды. Жасин Жердің жаңа билеушісіне айналды. Бірақ адамдар оны ұмытқан жоқ. Олар жаңа әлемде оның технологияларын зерттеп, Жерді Жасиннен тартып алуға дайындалып жүр…
Осындай сценарий сізге қорқынышты емес пе?! Сарапшылар да осыны айтады. Сіз қалай ойлайсыз?
Біздің ойымызша, адамда Жаратушы берген ішкі танымдық мотивация бар. Ол өзін, өмірдің мәнін, әлемнің қалай жұмыс істейтінін түсінгісі келеді. Философия, ғылым мен техника, өнер мен дін, адамзат баласының прогресі – бәрі Адамның саналы ізденісінің нәтижесі.
Машиналарда ондай ішкі мотивация мүлдем жоқ. Ақылды машина не істесе де, адам жазған алгоритмге сәйкес істейді. Адам берген білімнің шегінде ғана. Оларда «қызығушылық», «өзін тану» деген ұғымдар тек имитация түрінде болады.
Сондықтан біздің ЖИ-ден ең басты айырмашылығымыз – өзін-өзі тануға, білімді тереңдетуге және әлемді түсінуге деген саналы ұмтылысымыз. Осыдан кейін жасанды интеллект өздігінен адамға қарсы соғыс ашады дегенге сенесіз бе? ЖИ адамның қолындағы қару ғана. Оны жақсылыққа да, қастандыққа да жұмсау адамның таңдауы. Тыйымды ақылды машинаға емес, мүмкін, адамның өзінің іс-әрекетіне салу керек болар?!
Машинада ішкі мотивация деген мүлдем жоқ. Ақылды машина не істесе де, адам берген білімнің шегінде ғана, адам жазған алгоритмге сәйкес істейді. Фото rg.ru сайтынан алынды. Авторлығы: af.mil
Сарапшылар ЖИ-дің қауіптері туралы жиі таласқанымен іс жүзінде оны қалай реттеу керектігі туралы ортақ пікірге (ЕуроОдақтан басқа) келе алмай отыр. Сондықтан ЖИ жұмыс істеуі үшін нақты және тар шеңберлі жолды анықтауға үндеген дауыстар қатты шығуда. Осы саланың сарапшылары да жаңа тәсіл ұсынуда: «жаман» деп саналатын мысалдарды бірге анықтап, соған келіссек қайтеді?
Дүйсенбі күні (22 қыркүйек) саясаткерлер, ғалымдар мен академиктер тобы БҰҰ Бас Ассамблеясында «ЖИ үшін «қызыл сызықтар» орнатайық» деген үндеу жариялады. Бұл әлем үкіметтерін бірігіп, ЖИ енгізілуінен туындайтын «қауіпті тәуекелдерді» болдырмау үшін тыйым салу шекараларын келісуге шақырғандай болды.
Үндеу жасаған топтың мақсаты – «қызыл сызықтарды» 2026 жылдың соңына дейін бегілеп, бекітіп алу. Бұл ұсынысқа қазірдің өзінде 200-ден астам беделді сарапшылар, саясаткерлер және Нобель сыйлығының лауреаттары қол қойған. Бастаманы Ирландияның бұрынғы президенті Мэри Робинсон мен Колумбияның бұрынғы президенті Хуан Мануэль Сантос, Нобель сыйлығының бірнеше иегерлері қолдады. ЖИ саласының негізін қалаушылардың бірі саналатын Джеффри Хинтон мен Йошуа Бенжио да қол қоюшылардың қатарында.
Бұл қорқынышты видеоны міндетті түрде көру керек, ағылшын нұсқасын орысша субтитрмен: «Қызыл сызықтар» дегеніміз не? Бұл сұрақтың жауабы әлі де үкіметтердің құзырында. Үндеуде нақты саяси нұсқаулар немесе ұсыныстар берілмеген, тек бірнеше мысал келтіріледі. Топтың пікірінше, ЖИ-ді ядролық қару жасау немесе жаппай бақылау мақсатында қолдануға тыйым салу «қызыл сызық» бола алады. Сондай-ақ тоқтатуға болмайтын ЖИ құралдарын жасауға тыйым салу да ЖИ-дің мінез-құлқына қатысты «қызыл сызық» болуы мүмкін. Бірақ олар бұл мысалдардың түпкілікті шешім еместігін, әр мемлекет өз ережелерін орната алатынын айтуда.
Топтың нақты ұсынып отырған жалғыз талабы – кез келген жаһандық келісім үш тірекке негізделуі керек. Бірінші, анық, түсінікті тыйымдар тізімі. Екінші, сенімді әрі тексеруге болатын бақылау тетіктері. Үшінші, келісілген тыйымдардың орындалуын бақылайтын тәуелсіз орган құру.
АҚШ ЖИ-ге ядролық қаруды басқаруға жол бермеуге келісті. Иллюстрация passport.yandex.ru сайтынан алынды. Авторлығы: генеративті ЖИ
Алайда бұл келісімнің барлық егжей-тегжейін үкіметтер бекітуі тиіс. Дәл осы бастаманың – ең күрделі бөлігі. Үндеуде мемлекеттерге бірнеше саммит пен жұмыс топтарын өткізу ұсынылған. Бірақ бұл талқылауларда мүдделер қайшылығы көп болары түсінікті. Мысалы, АҚШ ЖИ-ге ядролық қаруды басқаруға жол бермеуге міндеттенді. Бұл Байден әкімшілігі кезінде жасалған келісім, қазір ол әлі күшінде ме, жоқ па, белгісіз. Бірақ соңғы хабарламаларға қарағанда, Трамп әкімшілігіндегі барлау органдары ЖИ әзірлейтін кейбір компаниялар өз құралдарын ішкі барлау үшін қолдануға рұқсат бермегеніне наразы. Америка мұндай ұсынысты қолдай ма? Бұны 2026 жылдың соңына дейін білетін боламыз. Егер сол уақытқа дейін басқа өзгерістер болып кетпесе.Сараптама, зерттеу мақала, күнделікті өзекті ақпаратты «Айқынның» TELEGRAM арнасынан табасыз.