Šef Microsofta: Umjetnoj inteligenciji treba kočnica za nuždu koju kontroliraju ljudi

"Moramo okružiti nedeterminističke modele snažnim, determinističkim dizajnom sustava, ljudskim kontrolama i pouzdanim operativnim postupcima te uspostaviti industrijske standarde tamo gdje postojeći nisu dovoljni", napisao je Nadella u objavi na platformi društvenih medija X.

Brojna upozorenja

"Tretiranje modela zatvorene i otvorene težine na granici kao insajderskih rizika način je izgradnje takvog sustava", rekao je.

Nadellini komentari dolaze usred upozorenja vodećih tehnoloških rukovoditelja i istraživača - uključujući suosnivača Microsofta Billa Gatesa, izvršnog direktora Anthropica Daria Amodeija, izvršnog direktora OpenAI-a Sama Altmana i izvršnog direktora SpaceX-a Elona Muska - o nedovoljnim sigurnosnim protokolima umjetne inteligencije i tvrdnjama da se tehnologija prebrzo razvija.

Istraživač umjetne inteligencije prošli je mjesec napustio Anthropic i optužio tvrtku i njezinog glavnog konkurenta, OpenAI, da se "kockaju s našim životima". Kasnije tog dana, voditelj usklađivanja u Anthropicu, usmjeren na sigurnost umjetne inteligencije, rekao je da postoji veća od 10% šanse da bi tehnologija mogla "ubiti sve ljude" u sljedećem desetljeću.

Suprotno tome, predsjednik Donald Trump više je puta odbacio rizike od izumiranja umjetne inteligencije i umjesto toga naglasio da industrija mora ostati ispred Kine. Trump je također nedavno predstavio novu "AI snagu", koju vodi direktor Nacionalne obavještajne službe Jay Clayton, kako bi pomogao u olakšavanju industrije i iskorjenjivanju loših aktera.

"Princip promatranja"

Microsoftov šef Nadella napisao je u subotu da bi AI sustavi trebali biti dizajnirani oko "principa promatranja".

Oni uključuju raznolikost modela; ljudski čitljiv otisak djelovanja modela; kontinuirano testiranje sustava; neovisne kontrole i mogućnost revizije; obuzdavanje; i otkrivanje incidenata, napisao je Nadella.

"Najpouzdaniji sustav super inteligencije neće biti onaj s modelom kojem najviše vjerujemo", napisao je. "To će biti onaj koji nam omogućuje da najmanje vjerujemo modelu."