Ha ennek csak a fele igaz, veszélyben az emberiség.
Úgy tűnik, Sam Altman hitelt ad annak az elméletnek, hogy az OpenAI-tól a cég szupererős, titkos új MI-rendszere miatt rúgták ki, amelyet segített létrehozni.
Állítólag több alkalmazott figyelmeztette a vállalat igazgatótanácsát, hogy a Q* (ejtsd: Q-star) nevű projekt olyan fejletté válik, hogy már képes
matematikai vizsgákat tenni és kritikus gondolkodási feladatokat végrehajtani.
És úgy érezték, Altman nem veszi komolyan a figyelmeztetéseiket.
Egy múlt heti interjúban Altman nem tagadta annak a titkos programnak a létezését, amely egyes alkalmazottak szerint felelős a kirúgásáért.
Ehelyett a Q* leleplezését “szerencsétlen kiszivárogtatásnak” nevezte.
Altmant kirúgták, majd az OpenAI-befektető Microsoft vette fel, majd újra alkalmazta az OpenAI – amely az Altmant menesztő igazgatótanács nagy
részének is útilaput kötött a talpára – mindössze öt nap alatt novemberben.
Amikor a The Verge-nek adott interjújában a Q*-val kapcsolatos kérdésekkel szembesült, lehetősége volt tagadni a program létezését.
A nyilvánosság a Reuters egy friss cikkéből értesült a Q* létezéséről, amely szintén megosztotta az alkalmazottak figyelmeztető levelében felvetett
aggályait, melyet az igazgatóságnak írtak.
De ez a hír csak általánosságban foglalkozott a Q*-val és a levél tartalmával, mivel a Reuters riporterei nem látták a levelet.
Mindezen bizonytalanság mellett Altman jó helyzetben volt ahhoz, hogy tagadja a Q* létezését, és alaptalan pletykaként utasítsa el.
Ehelyett úgy tűnt, hogy megerősíti a valódiságát.
“Ez gyors lesz, és arra számítunk, hogy továbbra is nagyon keményen fogunk dolgozni, hogy kitaláljuk, hogyan lehet biztonságossá és előnyössé
tenni.”
Az MI fejlesztés területén dolgozó emberek arra figyelmeztettek, hogy ha az informatikusok elérik a mesterséges általános intelligenciát (AGI),
akkor az erősebbé válhat, mint amivel az emberek meg tudnak küzdeni.
Még az embereket is fenyegetésnek tekintheti, amelyet meg kell szüntetni, és az internetes és számítógépes infrastruktúrákat igénybe veheti egy
ítéletnapi terv végrehajtásához.
Ezek a félelmek összhangban vannak a szakértők előrejelzéseivel, miszerint egy nap a mesterséges intelligencia eléri a szingularitásként ismert
pontot, amikor a technológia erősebbé és intelligensebbé válik, mint amivel az emberek versenyezni tudnak, megváltoztatva evolúciónk menetét.
A Google korábbi mérnöke, Ray Kurzweil egyszer azt jósolta, hogy a szingularitás 2045-re érkezik el.
Áprilisban több mint 25000 ember írt alá egy nyílt levelet, amely hat hónapos szünetet követelt az MI-kutatásban.
Akkor Altman azt mondta, hogy egyetért az óvatosságra való felhívással, de nem ért egyet a nyílt levélben szereplő “technikai árnyalatokkal”.
Nem írta alá.
A jelentések azt állították, hogy több alkalmazott levelet írt az OpenAI testületének, mielőtt Altmant eltávolították a cégből.
A levél állítólag részletezi, hogy Altman cége hogyan dolgozott új MI-felfedezéseken, amelyek veszélyesek voltak, és komoly kockázatokkal jártak a technológiák kereskedelmi forgalomba hozatalával, amelyek lehetséges következményeit a vállalat nem tudta határozottan felfogni