«Робот адамға зиян келтіре алмайды», – бұл фраза сізге таныс шығар. Алғаш рет 1942 жылы жазушы Айзек Азимов ұсынған «Үш заң» кейінірек бүкіл ғылыми-фантастика жанрының этикалық іргетасына айналды. Ал 2004 жылы жарық көрген «Мен – роботпын» фильмінде бұл ережелер көркем формада қайта ұсынылып, кең аудиторияға жетті. Жасанды интеллектісі бар роботтарға арналған бұл қағидалар бойынша:

1. Робот адамға зиян келтіре алмайды.
2. Робот адам бұйырғанды орындауы керек, егер ол бірінші заңға қайшы болмаса.
3. Робот өзін қорғауы тиіс, егер бұл бірінші және екінші заңдарға қайшы келмесе.

Азимовтың болжамдары бойынша, жасанды интеллект дамыған болашақта роботтың адамға зиян келтірмеуі — техниканың өз табиғатынан туындайтын нәрсе емес, оған арнайы енгізілген моральдық ережелердің, яғни заңдардың арқасында ғана мүмкін болады. Бірақ ХХІ ғасырдың көркем шындығында робот пен зиян ұғымы мүлде басқа формада кездесуде. Олар адамға тікелей нұқсан келтірмейді. Бірақ адамның ойын, тілін, стилін, шығармашылық қабілетін қайталайды. Қайта жасау барысынды ЖИ адамның жанын елемейді. Моральдық, мәдени, рухани деңгейді ескермей нұқсан келтіруі мүмкін.Бұны зиян емес деп қалай айта аламыз?

Бұл мақалада біз Азимов ұсынған үш заңды қазіргі заман контексінде — көркем шығармашылық, жасанды интеллект және авторлық субъект ұғымдары аясында қайта қарастырамыз.

І. Бірінші заң:

«Робот адамға зиян келтіре алмайды және өзінің әрекетсіздігі арқылы адамның зиян шегуіне жол бермеуі тиіс» – Айзек Азимовтың бірінші заңы

Бұл заң – классикалық гуманизмнің машиналық кодқа айналған формасы. Бірақ оның бір осал тұсы бар: «зиян» деген ұғым мұнда тек физикалық, тікелей, денелік қауіп ретінде қарастырылған. Азимов үшін адамды қорғау – тәнді қорғау. Бірақ ХХІ ғасырда адамның негізгі болмысы тәнінде емес, оның шығармашылық өрісінде көрінеді.

Бүгінгі жасанды интеллект жүйелері – Midjourney, DALL·E, ChatGPT және басқалары – адамның қолымен, санасымен жасалған миллиондаған визуалды, мәтіндік, концептуалды деректерді тұтынып, одан жаңа туынды имитациялайды. Бұл жерде бастысы: олар ештеңе «ұрламайды» — бірақ ешкімнен рұқсат та сұрамайды. Түпнұсқа иесі жүйеге көрінбейді. Оның орнына тек стильдің елесі, қолтаңбаның көлеңкесі ғана енеді.

Идея — материал емес. Бірақ ол — автор үшін жеке меншіктен де қымбат болмыс.автор үшін идея – рухани дене. Ал рухани денеге жасалған шабуыл — физикалық шабуылдан кем бе? ЖИ адамға қол көтермейді, бірақ ол адамның идеясына, қиялына, рухани еңбегіне қауіп төндіреді.

Суретшінің, ақынның, жазушының ең басты капиталы — оның ешкімге ұқсамайтын ойлау машығы, сезіну тереңдігі, тіл мен образға деген интуитивтік қатынасы. Жасанды интеллект осыны көшіріп, жаңа формада «шығармашылық» жасайды. Бірақ бұл — туынды емес, бұл — стильдің дерексіз рекомбинациясы. Мұндайда «зиян» заңдық категорияда анықталмайды. Ол – мәдени тозу, шығармашылық еркіндіктің анонимденуі, адамның көркем кеңістіктегі өзін-өзі сезінуінің бұлыңғырлануы.

Осы орайда, «Бірінші заң осы шындықта сақталып тұр ма?», – деген сұрақ туындайды. Біздіңше, жоқ. ЖИ-дің әрекеті адамға зиян келтірмейді, бірақ адамның шығармашылық болмысын әлсіретеді. Бұл зиян денеге емес, символдық капиталға жасалған. Ал постиндустриалды заманда, шығармашылық адам үшін бұл – ең қымбат ресурс.

ІІ. Екінші заң:

«Робот адам бұйрығына бағынуы тиіс, егер бұл бұйрық бірінші заңға қайшы келмесе» – Айзек Азимовтың екінші заңы.

Midjourney, DALL·E немесе басқа генеративті жүйелерінде: «Маған Studio Ghibli стилінде пейзаж салып бер», «Миядзаки стилінде кейіпкер жаса», – деген тапсырыс промттары үйреншікті жағдайға айналды. Жасанды интеллект бұған ештеңе демейді. Ол орындап береді. Ол — қарсыласпайды. Бірақ бұл эстетикалық жеңілдік көркемдік ауырлықтың есебінен келеді.

Қайталанған стиль — ұрлық емес, бірақ қауіп. Studio Ghibli стилі — бұл жай ғана визуал емес. Бұл дүниетаным, анимациялық философия, жапон поэтикасы мен үнсіздік арқылы сөйлейтін мәдени код. Хаяо Миядзакидің жұмыстары — өнер мен рухтың өзара үндестігі. Олар әлемге деген қарсылықсыз қабылдаудың сұлулығын паш етеді. Ал жасанды интеллект бұл стильді — тек форма ретінде көшіреді. Ол «Миядзаки» емес. Ол — Миядзакидің көлеңкесін ғана салады.

ЖИ орындады. Бірақ зиян кімге тиді? Миядзаки тірі. Оның шығармашылығы — қазіргі заманның мәдени бренді. Ал енді ЖИ оның стилінде мыңдаған визуал жасап, әлеуметтік желілерде таратуда. Автор бұған қатыспайды. Бірақ қоғам бұл көріністерді Ghibli стилі деп қабылдай береді. Бұл кезде біз Азимовтың екінші заңымен бетпе-бет келеміз: ЖИ адамның бұйрығын орындайды. Бірақ сол бұйрық нақты бір адамның мәдени беделіне, көркем капиталына зиян тигізеді.

Бұл жайлы Хаяо Миядзакидің өзі ЖИ жасаған кейіпкер моделін көріп тұрып: «Бұл адам болмысына деген құрметсіздік. Бұл – рухсыз әрекет. Мен бұған жаныммен қарсымын», – деген болатын. Демек автор өз стилінің жәй визуалды емес, рухани рәміз екенін айқын білдірді. Ал біз — сол рәмізді тұтынуға құмармыз, бірақ оның мағынасын иеленуге құқығымыз жоқ.

Мұнда моральдық салмақ сезілері хақ. ЖИ жай ғана орындайды. Бірақ бұйрықты берген адам — шығармашылық кеңістіктің заңдылығын бұзып тұр. Миядзакидің стилі — ашық энциклопедия емес. Ол — жеке әлем. Оны қайталау — рұқсат сұрамаған қонақтың үйін суретке түсіріп кетумен тең секілді.

ІІІ. Үшінші заң:

«Робот өзін қорғауы тиіс, егер бұл бірінші және екінші заңдарға қайшы келмесе» –Айзек Азимовтың үшінші заңы

Бұл ереже бастапқыда қарапайым логикаға сүйенген: машинаның жұмыс істеу қабілеті — оның тұрақты қызметін қамтамасыз ету үшін қажет. Қазіргі заманғы жасанды интеллект үшін бұл — техникалық бүтіндік, тұрақты өңдеу, алгоритмдік дұрыстық дегенді білдіреді. ЖИ өзін заңдық шектеулерден, кибершабуылдан немесе жүйеге зиян тигізетін әрекеттерден қорғауы мүмкін. Осы тұста: «бүгінгі таңда қорғануы тиіс — машина ма, әлде адамның шығармашылығы ма?»,  деген қарапайым, бірақ ауыр сұрақ туындайды.

Бүгінде жасанды интеллект өнімі қорғаушысы бар — код,  ал өнер қорғаны жоқ — шабытқа айналып бара жатқан іспетті. ЖИ-ге нақты құрылыммен жазылған код, ресурстар, заңдық қорғау бар. Ал көркем шығармашылық ше?

Өнер — жүйеге бағынбайды. Ол — қайшылықты, болжауға келмейтін, қателіктен, тосындықтан туған нәрсе. Ол әлсіз. Ол өзі үшін сөйлемейді. Және дәл сол себепті — қорғансыз.

ЖИ өзін қорғау үшін оптимизацияланады. Өнер өзін қорғау үшін — дерексіз болмысына, көрерменнің интуициясына, қоғамның тарихи жадына сүйенеді. Бірақ бұл — жеткіліксіз.

ЖИ өз құрылымын бұзбайды. Бірақ көркем ой — бұзуға ұмтылу, шекарадан асу, қауіпті сезіну арқылы туады. Егер барлық нәрсе қауіпсіз болса – драма да, поэзия да жоғалады. Егер алгоритм қорғалған болса — шабыт шетке ысырылып тұрады.

Енді кім кімнен қорғануы тиіс? Жасанды интеллект өз құрылымын сақтағысы келеді. Адам баласы өз көркем болмысын қорғағысы келеді. Бірақ таңдау құқығы — тек жүйеде. Себебі ЖИ заңмен қорғалған, ал өнер тек үмітпен ғана өмір сүреді.

Бүгінгі шындық — жасанды интеллект заңмен қорғалған, ал оған шабыт берген суретшінің стилі — қоғамдық кеңістікке ашық. Техникалық жүйенің авторлық құқығы бар. Ал эстетикалық тұлғаның болмысы — түсінік деңгейінде ғана өмір сүреді. Жасанды интеллектті кім қорғайды — біз білеміз. Ал өнерді кім қорғайды — бұл сұрақ әлі ашық. Жауапсыз.

Түйін

Азимов ұсынған үш заң – роботқа бағытталған көркем-этикалық қағидалар еді. Олар адамды қорғауға арналған гипотетикалық сценарийдің моделі болатын. Бірақ бүгінде біз роботтан емес, өзіміздің шығармашылық кеңістігімізден айырылып қалмаудың жолын іздеуге мәжбүрміз.

ЖИ қол көтермейді, бірақ шабытты қайталайды. ЖИ бұйрыққа бағынады, бірақ көркем мәнге бағынбайды. ЖИ өзін қорғайды, бірақ көркем кодтың тағдырына жауап бермейді. Біз заңды техникаға сеніп тапсырдық, бірақ ең басты заң — рухани заң екенін ұмытып барамыз.

Өнер — адамзатқа тән ең алғашқы интуиция. Бізді тірі ететін  биологиялық механизм емес, түс пен пішінді сезіну, дыбысты ырғаққа айналдыру, ішкі ойды бейнеге көшіру қабілеті. Бұл — жай эстетикалық қабілет емес, ноосфералық болмыс. Азимов та шығармашылығының соңына қарай үш заңның шектеулі екенін түсініп, кейінгі туындыларында жаңа қағиданы – «нөлінші заңды» ұсынды.

1. Нөлінші заң:

«Робот адамзатқа зиян келтіре алмайды және өзінің әрекетсіздігі арқылы адамзатқа зиян шегуіне жол бермеуі тиіс» – Айзек Азимовтың нөлінші заңы

Бұл — барлық заңнан жоғары тұрған норма. Бірақ оның атауының өзі парадокс: нөл – жоқ деген сөз. Ол санақтың алдындағы тыныштық секіліді. Нөл — математикадағы ең революциялық ұғымдардың бірі. Ол тек «бос немесе жоқ кеңістікті» емес, санақ жүйесінің негізі, теңдеулердің шешімін табуға кілт, шексіздікпен шекаралас ұғым. Оны жазуға болады, бірақ толығымен түсіндіру мүмкін емес.

Алайда нөлінші заңдағы, «Адамзатқа зиян келтіру» дегенді кім анықтайды? ЖИ үшін адамзат — деректер жиынтығы. Ал біз үшін — рухани код, тарихи жады, өнер арқылы ұласқан болмыс.

Біздің түсінігімізде, адамзат дегеннің ең алғашқы әрі мәңгілік белгісі – өнер.
Күлтегіннің тасындағы жазу да, үңгірдегі сурет те, Вермеердің жарығы да, Абайдың қараөлеңі де – адамзаттың басталуы мен жалғасуы.

Бүгінгі жасанды интеллект дәуірінде, бізге дәл осы «нөлінші заңды» қайта қарастырып, адамзат пен өнерді қорғаудың нақты этикалық нормаларын қалыптастыру қажеттілігі туындады. Себебі қиял  шындыққа айналды.

Кеше әдебиет қойған сұрақ — бүгін философиялық әрі саяси талапқа айналып отыр. Егер жасанды интеллект шынымен адамзатқа зиян келтіргісі келмесе –онда ол ең алдымен өнерді қорғауы тиіс…

Авторы Сырғабаев Санжар