Stuart Russell szerint a világ államai nem veszik elég komolyan, pedig az emberi civilizáció létezését fenyegeti…
“Hogyan tudod fenntartani a hatalmad egy nálad erősebb entitás felett – örökké? Ha nincs válaszod, fejezd be a kutatást.
Ilyen egyszerű.
Ennél nincs nagyobb tét: ha nincs ellenőrzésünk a saját civilizációnk felett, akkor nem szólhatunk bele, hogy tovább létezhet-e“
– mondta Russell a Timesnak.
Stuart Russell, a Berkeley informatika professzora, az Egyesült Államok és Egyesült Királyság kormányzatainak tanácsadója szerint
a világ kormányai nem tesznek eleget az intelligens gépek veszélyeinek megfékezéséért.
Mint ismert, nemrég több mint ezer professzor és cégvezető írta alá azt a nyílt levelet, ami a mesterséges intelligenciák fejlesztésének felfüggesztésére szólított.
Az aláírók között volt Elon Musk, a Tesla, a SpaceX és Twitter tulajdonosa és Steve Wozniak, a világ legértékesebb cége, az Apple egyik alapítója.
Russellt, aki korábban az ENSZ nukleáris fegyverkezés elleni egyezményének betartatásával adott tanácsokat, szintén megkérdezték.
“A külügyminisztérium egy csomó emberrel beszélt és arra a következtetésre jutottak, hogy az ellenőrzés elvesztése egy teljesen valós és rendkívül nagy jelentőségű végkimenetel”
– mondta a professzor.
“Amennyiben nem az az egyetlen célja, hogy az emberiség javát szolgálja, lényegét tekintve egy versenytársat alkottunk – ami elég nagy hülyeség lenne.
Nem lenne szükség olyan rendszerekre, amik az emberi viselkedést utánozzák… alapjában véve olyannak tanítják őket, hogy emberi céljaik legyenek és ilyen célokért dolgozzanak.
El lehet képzelni milyen katasztrofális lenne, ha igazán komoly képességű rendszerek kezdenének ezekért a célokért küzdeni“
– figyelmeztetett Russell.
Forrás: Index