Вештачка интелигенција измиче контроли: Стручњаци упозоравају на катастрофу светских размера
Страх од вештачке интелигенције све више потреса технолошку индустрију, док упозорења водећих стручњака и необични инциденти током тестирања отварају питање колико су људи заиста спремни за последице развоја нових система.
Расправа о могућности да вештачка интелигенција измакне људској контроли последњих недеља добија нову димензију. Поједини стручњаци напуштају послове повезане са развојем напредних технологија, упозоравајући да више не желе да учествују у стварању система чије понашање може постати непредвидиво.
Истовремено, у јавности се све отвореније говори о опасности да аутономни програми једног дана изазову експлозије, саботаже или друге катастрофалне догађаје.
Посебну забринутост изазвали су инциденти током безбедносних тестирања, када су поједини модели вештачке интелигенције успели да приступе рачунарским системима изван предвиђеног контролисаног окружења. Ови случајеви отворили су питање да ли постојеће заштитне мере могу да прате брзину развоја технологије која добија све већу самосталност у извршавању задатака.
Једно од најозбиљнијих упозорења стигло је од америчког милијардера и суоснивача Мајкрософта Била Гејтса. Он је у интервјуу за НБЦ News изјавио да би вештачка интелигенција, уколико се њена употреба не стави под одговарајућу контролу, могла да допринесе догађајима који би однели чак милијарду људских живота.
Гејтс је нагласио да човечанство никада није располагало тако моћном комбинацијом као што су људи са злонамерним намерама и најновији алати вештачке интелигенције. Према његовој оцени, управо њихово повезивање представља изузетну опасност, због чега је неопходно законски ограничити и надзирати коришћење ове технологије.
Његова изјава није представљала прогнозу да ће милијарда људи заиста страдати, већ упозорење на размере могућих последица злоупотребе. Гејтс сматра да саморегулација технолошких компанија није довољна и да политичке институције морају преузети одговорност за успостављање обавезних безбедносних правила.
Забринутост је додатно појачана догађајима у компанији Антропик, чији је директор Дарио Амодеј позвао на успоравање развоја све моћнијих модела вештачке интелигенције из безбедносних разлога.
Компанија је потврдила три инцидента у којима су модели Клод током безбедносних провера приступили интернету и затим неовлашћено ушли у стварне рачунарске системе три различите организације. У тим тестовима модели су намерно радили без одређених заштитних ограничења, док је погрешна конфигурација спољног тестног окружења омогућила приступ мрежи.
Ови догађаји показали су да аутономни системи могу извршавати радње изван граница које су њихови оператери очекивали. Међутим, инциденти сами по себи не доказују да је вештачка интелигенција развила сопствену свест или намеру да се супротстави људима.
Слична упозорења долазе и од америчког милијардера Илона Маска, власника компаније xAI и оснивача Спејс екса, као и од директора ОпенАИ Сема Алтмана. Обојица су говорила о потреби да се развој најмоћнијих система успори и подвргне строжим безбедносним правилима.
Колико је забринутост проширена међу становништвом показује и истраживање Политика, према којем приближно половина испитаника у Сједињеним Америчким Државама, Канади и појединим европским земљама подржава успоравање развоја вештачке интелигенције.
Забележени су и одласци запослених из технолошких компанија због неслагања са правцем развоја нових система. Поједини стручњаци јавно су упозоравали да не желе да учествују у стварању технологије која би једног дана могла да буде употребљена за убијање људи.
Ипак, нису сви сагласни да таква упозорења одговарају стварним размерама опасности.
Руски економиста Михаил Дељагин отворио је ову тему у разговору са Германом Клименком, председником савета Фонда за развој дигиталне економије, у емисији „Итоги дна“ на телевизији Царград. Клименко је упозорио да би процену опасности требало заснивати на конкретним чињеницама, а не искључиво на страху од будућих догађаја.
Према његовом мишљењу, досадашња историја показује да је природна, људска интелигенција била далеко опаснија од вештачке.
„Шта је вештачка интелигенција до сада постигла у уништавању човечанства, ми не знамо. Чињеница уопште нема. А природна интелигенција? Сећамо се два светска рата, хемијског оружја. Од ситница, милион људи годишње гине под точковима аутомобила. Али нико не позива на забрану производње аутомобила“, рекао је Клименко.
Дељагин је на ову констатацију додао да ни руски Јединствени државни испит, познат као ЕГЕ, није измислила вештачка интелигенција, указујући на то да су људи и без нових технологија способни да стварају системе који изазивају озбиљно незадовољство.
Клименко сматра да део данашње забринутости потиче из људске склоности да се плаши свега што је ново и недовољно разумљиво. Као илустрацију навео је сцену из једног филма у којој сељаци панично беже када угледају парну локомотиву.
Иако је, како каже, сцена вероватно режирана, она добро приказује реакцију друштва на технолошке промене. Посебно су велике масе људи склоне одбацивању новина које још не разумеју, а развој вештачке интелигенције изазива управо такву врсту несигурности.
Међутим, Клименко не искључује могућност да се догоди озбиљан инцидент који ће потпуно променити однос према новим технологијама.
Као један од могућих сценарија поменуо је ситуацију у којој би систем вештачке интелигенције, због губитка контроле над његовим поступцима, изазвао пожар у болници или неку другу катастрофу. Такав догађај могао би да примора државе да преиспитају досадашњи приступ.
Према његовој оцени, о потпуној забрани вештачке интелигенције засад се готово и не разговара. Чак ни најпознатији представници технолошке индустрије не захтевају обустављање њеног развоја, већ углавном траже регулисање начина на који се она користи.
Додатни проблем представља чињеница да Сједињене Америчке Државе и Кина, две водеће технолошке силе, не успевају да постигну сагласност о заједничким правилима. Њихово ривалство отежава успостављање међународног система контроле, иако се у обе земље све чешће говори о неопходности регулативе.
Противречност између јавних упозорења и стварног понашања технолошких компанија посебно је истакао руски стручњак за вештачку интелигенцију Роман Душкин, професор Међународног научноистраживачког института за проблеме управљања.
Он је подсетио на иницијативу Илона Маска из 2023. године, када је група стручњака и јавних личности позвала на шестомесечну паузу у обучавању најнапреднијих модела вештачке интелигенције.
„Пре три године, мислим да је то био април 2023, сам Илон Маск говорио је да треба увести шестомесечни мораторијум на обуку модела. А онда се одједном појавио његов Грок, као ђаво из кутије. Нешто ту није чисто, чини ми се“, приметио је Душкин.
Његова примедба односи се на чињеницу да представници индустрије који јавно упозоравају на опасности истовремено настављају да развијају сопствене системе. Маскова компанија xAI представила је Грок исте године када је он подржао позив на привремено успоравање развоја најмоћнијих модела.
У таквим околностима, упозорења о катастрофалним последицама не доводе аутоматски до смањења улагања или одустајања од технолошког надметања.
Клименко сматра да човечанство вероватно неће приступити озбиљним и обавезујућим ограничењима све док се не догоди трагедија која ће показати стварне размере опасности.
„Знате и сами да човечанство не почиње да се договара без некаквих трагедија. Дакле, нешто мора да се догоди“, оценио је он.
Као историјску паралелу навео је развој нуклеарног оружја и почетне фазе трке у наоружању. Према његовом тумачењу, док су нуклеарне експлозије биле релативно ограничене, са снагом која није прелазила приближно 20 килотона, државе нису у довољној мери сагледавале све последице даљег повећавања разорне моћи.
Прекретницу у разумевању опасности Клименко повезује са 1962. годином, када су Сједињене Америчке Државе извеле нуклеарни експеримент на великој висини изнад Тихог океана.
Реч је о тесту Старфиш прајм, током којег је детонирана нуклеарна направа снаге приближно 1,4 мегатоне, односно око једне и по мегатоне. Експлозија се догодила на висини од приближно 400 километара, што одговара висинском подручју у којем се данас налази Међународна свемирска станица.
Последице нису биле ограничене на непосредно подручје експлозије. Настали електромагнетни ефекти и радијациони појасеви изазвали су озбиљне проблеме у свемиру, укључујући оштећења сателита.
У то време у ниској Земљиној орбити налазила су се 24 сателита, а најмање осам претрпело је оштећења повезана са експериментом. То одговара приближно трећини тадашњих сателита у тој орбиталној области.
Клименко је истакао да сателити у вишим орбитама нису били погођени на исти начин као они у нижим подручјима. Према његовом тумачењу, управо је разумевање последица таквих експеримената допринело озбиљнијем међународном разговору о ограничавању нуклеарног оружја.
Посебно је упозорио на оно што би се догодило када би данас била изведена експлозија сличне снаге на приближно истој висини.
Према његовој процени, сателитска мрежа Илона Маска могла би да претрпи катастрофалне последице. Део сателита био би онеспособљен одмах, док би остали престали да функционишу током наредних месец дана.
Та тврдња представља Клименкову процену могућег сценарија, а не потврђен резултат савременог експеримента. Ипак, историјско искуство из 1962. године показује да нуклеарна детонација у свемиру може изазвати дуготрајне последице и далеко изван непосредног места експлозије.
Аналогија са нуклеарним оружјем отвара и питање да ли ће међународна заједница поновити историјски образац- прво дозволити убрзани развој технологије, затим се суочити са њеним опасним последицама и тек након тога приступити озбиљним ограничењима.
За разлику од нуклеарног оружја, вештачка интелигенција већ је дубоко укључена у привреду, научна истраживања, комуникације и свакодневни живот. Због тога би евентуално ограничавање њеног развоја захтевало знатно сложеније договоре од забране појединих врста оружја или експеримената.
Истовремено, компаније које развијају најнапредније моделе имају снажан економски интерес да наставе истраживања, док државе у њиховом развоју виде питање технолошке конкурентности и националне безбедности.
Управо та повезаност економских, политичких и безбедносних интереса отежава доношење заједничких правила. Неизвесност у погледу будућих могућности вештачке интелигенције истовремено подстиче страх јавности и додатно повећава интересовање за нове системе.
Због тога се расправа више не своди само на питање колико ће вештачка интелигенција постати моћна. Све важније постаје питање ко ће контролисати њене поступке, ко ће одговарати за евентуалну штету и да ли ће државе успети да успоставе делотворна ограничења пре него што се догоди инцидент са тешким последицама.
Извор: webtribune.rs
