Дөньядагы иң кыйммәтле Антропик компаниясен соңгы көннәрдә иң яхшы белгечләр ташлап китә. Әйтик, моннан ун көннәр тирәсе элек кенә аның белән куркынычсызлык буенча ике белгеч саубуллашты. Юк, алар башкалар кебек гариза язып кына эштән китмәде, ә «Ясалма фәһем (ЯФ) кешелек дөньясын юк итәчәк!» дигән белдерү ясап, ишекне шап итеп япты.
Тишеренүләрнең бер мөһим тармагын җитәкләүче Эван Хабингер, мәсәлән, ясалма интеллектның кешелекне юк итү ихтималын якындагы унъеллыкта 10 процент дип бәяли. Джекоб Коксон, ЯФ юнәлешендә узышу кешелекне юк итәчәк системалар барлыкка китерәчәк, дигән карашны алга сөрә. Егеткә әле 27 яшь кенә, яхшы түләүле эштә эшләргә дә эшләргә югыйсә. Ул исә үзләре тарафыннан эшләнгән технологияләрне «критик нокта», «эндшпиль» дип атый. «Без иң дәһшәтле сценарийларны тормышка ашыра торган юлдан атлыйбыз. Вазгыять киләсе ел ахырында ук контрольдән чыгарга мөмкин», – ди ул.
Бу язма куркыту яки коткы тарату түгел, ә уйлану ниятеннән язылды. Ә хәзер, кылт итеп, «Терминатор» фильмы искә төштеме? 1984 елда ук төшерелгән фильмда да нәкъ без яшәгән чорда башлангыч алган вакыйгалар сурәтләнә. Фильмдагы «Скайнет» дигән ясалма интеллект системасы кешелек дөньясын юк итү эшенә нәкъ менә 2029 елда керешә. Сюжет буенча, АКШ хәрбиләре бөтен атом-төш коралы белән идарә итүне «Скайнет»ка ышанып тапшыралар. Үзлегеннән уйларга өйрәнгәч, хәрбиләр аны сүндерергә тырыша. Бу адымны «Скайнет» үз тормышына куркыныч янау дип аңлый һәм кешелеккә каршы атом-төш сугышы башлый… Гафу итегез, бүген ЯФнең кешелек дөньясын 2030 елда юк итәчәген әйтеп, аны дөньяга китергән белгечләрнең байтагы чаң суга. The Times басмасына биргән интервьюда Машина интеллекты буенча тикшеренүләр институты президенты Нейт Соарес кешелек җәмгыятенең ясалма акыл аркасында һәлак булу ихтималын 95 процент дип бәяли. «Без упкынга таба 160 километр/сәгать тизлектә хәрәкәт итәбез», – ди. Математика галимнәре, ЯФнең якын арада сверхинтеллект (үтә югары интеллект) дәрәҗәсенә җитәчәген һәм шул этапта кешеләрнең әмерләрен үтәүдән баш тартачагын әйтеп, аны үстерүне туктатып торырга чакыралар.
Сүз бит бер-ике программачы яки математик турында гына бармый. Ясалма акылны эшләүдә, аны мәйданга китерүдә азау ярган белгечләр кисәтә. «Мин ясалма интеллектның безнең барыбызны да үтерү ихтималы барлыгына чын күңелдән ышанам, һәм моны булдырмаска безнең вакытыбыз кими бара кебек», – дип белдерә Билал Чугтаи. Ул – ясалма интеллект куркынычсызлыгы һәм AGI (гомуми ясалма интеллект) өлкәсендә эшләгән тикшеренү инженеры, «Google DeepMind»та ЯФ системаларының кеше максатларына һәм кыйммәтләренә туры килүен тәэмин итүгә юнәлтелгән тикшеренүләр белән шөгыльләнгән була. Июльдә компаниядән үз теләге белән китте, 14 сентябрьдә генә китүенең сәбәбен игълан итте.
Мәсьәләгә Open AI (ChatGPT) компаниясе Сэм Альтманның карашы бераз икенчерәк. «Мин шәхсән безгә беркайчан да: «Барлык график процессорларны эретергә кирәк!» – дип әйтерлек ноктага барып җитәргә туры килер дип уйламыйм. Әмма кешелекнең алга таба яшәешен тәэмин итү өчен, шундый адымга бару кирәк булса, әлбәттә, әйе», – ди ул. Темадан ерак торучы укучы өчен аңлатыйк: график процессор (GPU) – компьютердагы бик күп гади исәпләүләрне бер үк вакытта параллель рәвештә башкарырга махсуслашкан микросхема. GPU юк икән, ясалма акыл да юк. Альтманның фикере әһәмиятле, әлбәттә, әмма ул, бердән, белгеч түгел: укырга кергән, әмма тәмамламый ташлаган; икенчедән, ясалма акыл – аның бизнесы, ул шуның белән акча эшли.
Шушы урында без яңадан «заговор теориясе» дигән нәрсәгә килеп төртеләбез. Интернет форумнарында инде «иң куркыныч нәрсә тормышка ашты, тармак лидерлары бу хакта беләләр, әмма бездән яшерәләр» дигән фикерләр тарала. «Ватаным Татарстан» хәбәрчесе сезгә гарантия бирә: ясалма акыл системаларын эшләүче даһиларның, 2030 елга кешелек җәмгыяте һәлак булачак, дип чаң сугулары өчен җирлек бар, тик 2031 елда да кешеләр яшәячәк әле. Аннан соң да. Әмма…
Рәсми лидерлар мәсьәләгә ничек карый? The Washington Post мәгълүматлары буенча, Трамп Nvidia компаниясенең генераль директоры Дженсен Хуангка ул Лос-Анджелеста узган All-In форумында сәхнәдә чыгыш ясаганда шалтыраткан. Хуанг шалтыратуны көчле тавышка күчергән. Шуннан соң Трамп ясалма интеллектка бәйле борчылуларны «уйдырма» дип атаган һәм: «Роботлар хакимиятне үз кулларына алмаячак», – дип белдергән. Мәгълүмат дөрес булса, Хуанг белән Трамп спектакль уйнаганга охшый. Ак йорт хуҗасы – дөньякүләм державаның лидеры, билгеле. Ләкин әле яңа гына утыз әйдәп баручы Америка психиатры уртак белдерү имзалады. Анда алар Президент Дональд Трампны вазыйфаларын башкару өчен психик яктан сәләтсез дип игълан итте һәм аның АКШның атом-төш кораллары өстеннән тулы вәкаләткә ия булуы бөтен дөнья өчен куркыныч тудыра, дип кисәтте. Психиатрлар аны вазыйфасыннан ашыгыч рәвештә читләштерү буенча чаралар күрергә өндәде. Бу хакта The BMJ – медицина һәм сәламәтлек саклау өлкәсендәге абруйлы фәнни медицина журналы хәбәр итә.
Тема буенча Кытай Чит илләр эшләре министрлыгы да 14–15 сентябрьдә махсус белдерүләр ясады. Чиннар белгечләрнең ясалма акыл үсешен акрынайтырга өндәвен «коткы тарату» дип бәяли. Дөрес, алар да куркыныч барлыгын таный, әмма мәсьәләне контрольдә тотып була, дип уйлыйлар. Гомумән алганда, ясалма интеллектны үстерү буенча алдынгы ике державаның да рәсми лидерлары аны камилләштерүне дәвам иттерү ягында. Мәсьәләнең кызык ягы шунда: вакыйгалар үсеше «Терминатор» фильмының сюжетына охшап кабатлана. Дональд Трамп, мәсәлән, АКШта «ЯИ гаскәрләре» төзеләчәген игълан итте. Ясалма акылны хәрби максатларда куллану очраклары бүген үк бар инде. Белгечләр машина акылының, буйсынмыйча, билгеләнгән чикләрдән чыгып китүе турында да еш әйтә башлады.
Без югарыда куйган өч ноктага әйләнеп кайтыйк. Кешелек җәмгыяте озак яшәячәк әле, ләкин тарихи бер мизгелдә цивилизация үзенең барлык казанышларын югалтырга мөмкин. Көрәк белән җир казырга сез әзерме әле?
БЕЗНЕҢ МАКС КАНАЛЫНА ЯЗЫЛЫГЫЗ!
Фикер өстәү
Фикерегез