Колку е опасна вештачката интелигенција? Експерт предупредува на можен крај на човештвото!

Сподели со своите пријатели

Во една неодамнешна епизода, подкастерот Лекс Фридман изјави дека повеќето инженери за вештачка интелигенција со кои зборувал да проценат помеѓу 1% и 20% шанси дека вештачката интелигенција на крајот ќе ја уништи човечката раса.

Loading...

Според една неодамнешна студија спроведена со 2.700 истражувачи на вештачка интелигенција, постои само 5% шанса вештачката интелигенција да доведе до исчезнување на луѓето.

Сепак, Фридман ја нагласува важноста да се разговара со луѓе кои мислат дека е многу поверојатно дека вештачката интелигенција може да ја уништи човечката раса – како истражувачот на вештачката интелигенција Роман Јамполски, кој рече дека веројатноста е 99,9% во следните сто години.

Роман Јамполски, професор по компјутерски науки на Универзитетот во Луисвил, неодамна објави книга наречена „ВИ: Необјасниво, непредвидливо, неконтролирано“.

Во двочасовниот разговор на подкастот на Фридман, Јамполски зборуваше за ризиците од вештачката интелигенција и даде прилично мрачни прогнози, пишува Business Insider.

ПРОЧИТАЈТЕ И:  Мајкрософт повторно е највредната компанија во светот

Јамполски верува дека шансите вештачката интелигенција да го уништи човештвото зависи од тоа дали луѓето можат да создадат многу сложен софтвер без грешки во следните 100 години.

Тој смета дека ова е малку веројатно, бидејќи ниту еден модел со вештачка интелигенција досега не бил целосно безбеден од обидите на луѓето да го користат за нешто за што не е дизајниран.

Првите неколку верзии на модели со вештачка интелигенција во последните две години покажаа различни знаци на потенцијална злоупотреба или дезинформации.

Loading...

Технологијата Deepfake создаде лажни порнографски слики на јавни личности и се закануваше дека ќе влијае на изборите со роботски повици со вештачка интелигенција имитирајќи го претседателот Бајден.

Јамполски верува дека е потребна постојана безбедносна машина за контрола на вештачката интелигенција.

Дури и ако направиме добра работа со следните верзии на GPT, вештачката интелигенција ќе продолжи да се подобрува, учи, самостојно да се менува и да комуницира со различни актери.

ПРОЧИТАЈТЕ И:  САД поднесуваат тужба против ТикТок

Соочени со егзистенцијални ризици, „имате само една шанса“, вели тој.

Решенија и иднината

Сем Алтман, извршен директор на OpenAI, предложи „регулаторен sandbox“ каде што луѓето експериментираат со вештачката интелигенција и ја регулираат врз основа на тоа што „мина навистина лошо“ и што „одеше навистина добро“.

Алтман претходно предупреди – или можеби се шегуваше – во 2015 година дека „ВИ веројатно ќе стави крај на светот, но во меѓувреме ќе има големи компании“.

Јамполски предупредува дека „не можеме да предвидиме што ќе направи попаметен систем“.

Тој ги споредува луѓето со верверички во контекст на АГИ и вели дека вештачката интелигенција ќе смисли нешто што сè уште не знаеме дека постои.

Loading...

Според Јамполски, постојат три можни последици.

Еден ризик е дека сите ќе умрат, друг е дека сите ќе страдаат и ќе посакаат да бидат мртви, а третиот е дека луѓето целосно ќе ја изгубат својата цел.

ПРОЧИТАЈТЕ И:  Неверен сопруг го тужи Apple: Тврди дека компанијата е виновна за неговиот развод

Последната се однесува на свет во кој системите со вештачка интелигенција се покреативни од луѓето и можат да ја завршат целата работа.

Во таа реалност, не е јасно што би направиле луѓето за да придонесат, вели Јамполски, повторувајќи ја загриженоста дека вештачката интелигенција ќе почне да ги одзема работните места на луѓето.

Повеќето луѓе на теренот признаваат одредено ниво на ризик со вештачката интелигенција, но не мислат дека работите најверојатно ќе завршат лошо.

Илон Маск предвиде 10-20% шанси дека вештачката интелигенција ќе го уништи човештвото.

Поранешниот извршен директор на Гугл, Ерик Шмит изјави дека реалните опасности од вештачката интелигенција, а тоа се сајбер и биолошките напади, ќе дојдат за три до пет години.

Ако вештачката интелигенција развие слободна волја, Шмит има едноставно решение: луѓето едноставно можат да ја исклучат вештачката интелигенција.

Loading...