Stephen Hawking már 2014-ben figyelmeztetett a mesterséges intelligencia veszélyeire – ma minden szava hátborzongatóan aktuális 🤖😨
Stephen Hawking, a 20. és 21. század egyik legnagyobb elméje, nemcsak a fekete lyukak természetét értette meg, hanem az emberiség jövőjét is kíméletlen pontossággal látta előre. Már 2014-ben figyelmeztetett arra, hogy a mesterséges intelligencia (MI) lehet az emberiség legnagyobb találmánya – vagy éppen az utolsó. Akkoriban még csak kísérleteztek a kezdetleges algoritmusokkal, de Hawking már akkor megjósolta, hogy „a mesterséges intelligencia képes lesz meghaladni az emberi elmét, és ha nem tanuljuk meg ellenőrzés alatt tartani, véget vethet az emberi fajnak”.
A fizikus gyakran használta a „szingularitás” kifejezést, amelyet eredetileg az asztrofizikából kölcsönzött: ez az a pont, ahol a fizika törvényei megszűnnek működni. Amikor azonban az MI-re vetítette ezt a fogalmat, arra a pillanatra gondolt, amikor az ember elveszíti az irányítást saját teremtménye felett – amikor a gép már nemcsak tanul, hanem önállóan gondolkodik, dönt és fejlődik.
Most, több mint tíz évvel később, amikor a mesterséges intelligencia már képeket fest, cikkeket ír, diagnózisokat állít fel és akár politikai kampányokat is irányíthat, Hawking jóslata szinte hátborzongató pontossággal válik valóra. A tudósok ma „általános mesterséges intelligenciának (AGI)” nevezik azt a pontot, ahol a gép már minden emberi képességet képes utánozni és meghaladni.
Hawking egy interjúban úgy fogalmazott:
„A szuperintelligens mesterséges intelligencia rendkívül hatékony lesz a céljai elérésében. De ha ezek a célok nem esnek egybe a mi céljainkkal, bajban leszünk.”
A The Conversation nemrégiben felidézte ezeket a szavakat, és hozzátette: az igazi veszély talán nem is a gépekben, hanem az emberekben rejlik, akik ezeket irányítják. A lap szerint a technológia mögött hatalmas vállalatok állnak, melyek a profitot és a hatalmat helyezik előtérbe az etika és az emberi jólét elé. „Ezek a cégek – és a mögöttük álló milliárdosok – a mesterséges intelligencia helytelen használatából profitálnak leginkább” – írják.
A The Conversation cikke szerint az MI-vel kapcsolatos félelmek sokszor elterelik a figyelmet arról, hogy az emberiség már most is önpusztító irányba tart: a technológia ugyanis csupán eszköz, amelyet jóra és rosszra egyaránt lehet használni. Gondoljunk csak az MI által engedély nélkül felhasznált művészi alkotásokra, a megfigyelés alatt tartott felhasználókra, vagy a mesterséges intelligenciával felruházott „társakra” és robotokra, amelyek fokozatosan az emberi kapcsolatok helyére lépnek. Ami egykor sci-fi volt, ma már üzlet.
És ha már a sci-fit említjük: a Terminátor vagy az Ex Machina filmek jóslatai ma már korántsem tűnnek fantáziának. A katonai rendszerek automatizálása, a drónok önálló döntéshozatala, vagy az, hogy egyetlen MI-alapú hiba globális következményekkel járhat – mind-mind azt mutatják, mennyire közel vagyunk ahhoz a bizonyos szingularitáshoz.
A hétköznapi ember aggodalmai sem kisebbek: mi lesz a munkahelyekkel, ha a robotok és algoritmusok gyorsabbak, olcsóbbak és hibátlanabbak? Már most látható, hogy a kreatív, jogi és pénzügyi szektorban tömegek munkáját váltja ki az MI, miközben fizetést nem kér, pihenőt nem tart és szakszervezetbe sem lép.
HirdetésDe talán a legnagyobb kérdés mégsem az, hogy a gépek átveszik-e az irányítást, hanem az, hogy az emberek, akik a gépeket irányítják, meddig hajlandók elmenni. Mert amíg a világot olyan nevek vezetik, mint Sam Altman, Bill Gates vagy Larry Ellison, addig az MI jövője nem pusztán technológiai, hanem erkölcsi kérdés is.
A tudósok szerint ugyan az MI-fejlesztések ma már szigorú etikai szabályokhoz kötöttek, de ahogy a The Conversation ironikusan megjegyzi:
„Ezek a szabályok a biztonság iránti vágyunkat tükrözik – de az emberek maguk is képtelenek betartani ugyanazokat az elveket.”
Stephen Hawking nem félt kimondani, amit mások csak gondoltak: a legnagyobb veszély nem a mesterséges intelligencia, hanem az emberi ostobaság és mohóság.És ahogy ma körülnézünk a világban, talán tényleg ideje lenne feltenni a kérdést:vajon mi irányítjuk még a gépeket – vagy ők már minket? 💭
