Kritika umelej inteligencie sa dostáva z vedeckých fór priamo do centra spoločenského diania. Desiatky známych osobností z rôznych oblastí – od technológií cez vedu až po šoubiznis – sa spojili v bezprecedentnej iniciatíve proti vývoju takzvanej superinteligencie.
Pod vyhlásením s názvom „Statement on Superintelligence“, ktoré zverejnil Future of Life Institute (FLI), figurujú mená ako Steve Wozniak, spoluzakladateľ Apple, miliardár Richard Branson, ale aj princ Harry s manželkou Meghan Markle. Spolu so stovkami vedcov, profesorov a verejných osobností požadujú zákaz vývoja systémov, ktoré by mohli prekonať ľudskú inteligenciu. Aspoň dovtedy, kým nebude dokázané, že sú bezpečné a kontrolovateľné. Téme sa venoval portál Techbox.
Varovanie pred stratou kontroly
Signatári upozorňujú, že preteky v budovaní nadľudskej AI prinášajú riziká, ktoré ďaleko presahujú ekonomiku. V spoločnom vyhlásení píšu, že sa obávajú straty ľudskej slobody, dôstojnosti, súkromia, kontroly nad technológiami, ale aj rizika vyhynutia ľudstva.
Pod vyhlásením sa podpísali aj traja z najuznávanejších odborníkov v oblasti umelej inteligencie – Geoffrey Hinton, Yoshua Bengio a Stuart Russell. Tí patria k zakladateľom modernej AI. Bengio v sprievodnom komentári upozornil, že hranica medzi schopnosťami človeka a AI sa môže zmazať už v priebehu niekoľkých rokov.
„Hraničné systémy AI by mohli prekonať väčšinu ľudí vo väčšine kognitívnych úloh. Skôr, než sa to stane, musíme vedecky určiť, ako navrhnúť systémy, ktoré sú zásadne neschopné ublížiť človeku,“ uviedol Bengio.
Aj princ Harry sa pripojil s vyhlásením, že „budúcnosť umelej inteligencie by mala slúžiť ľudstvu, nie ho nahrádzať.“
Petíciu podporili vedci, umelci aj politici
Prezident FLI Max Tegmark označil túto iniciatívu za zlomovú. Kým doteraz išlo najmä o „spory medzi technologickými expertmi“, dnes sa podľa neho debata o superinteligencii stáva mainstreamovou. Na zozname signatárov sú vedľa seba ľudia z úplne odlišných svetov – od bývalej poradkyne prezidenta Obamu Susan Rice cez konzervatívneho stratéga Steva Bannona až po herca Josepha Gordona-Levitta či speváka Will.i.ama.
Podľa FLI iba 5 % ľudí v USA podporuje súčasný rýchly vývoj AI bez regulácie, zatiaľ čo väčšina populácie žiada jej prísnejšie obmedzenie. Až 64 % opýtaných uviedlo, že vývoj nadľudskej AI by sa nemal spustiť, kým sa nepreukáže jej úplná bezpečnosť.
Tie najväčší mená chýbajú
Na zozname podpisov však nefiguruje nikto z vedúcich osobností AI biznisu. Petíciu nepodpísali ani Sam Altman (OpenAI), Elon Musk (xAI) a ani Dario Amodei (Anthropic) – teda ľudia, ktorých firmy priamo súťažia o vytvorenie prvého systému so schopnosťami superinteligencie.
Vyhlásenie o superinteligencii je však zatiaľ najradikálnejšou výzvou voči nekontrolovanému vývoju AI. Cieľom je podľa Tegmarka „stigmatizovať preteky o superinteligenciu“ a presunúť rozhodovanie o budúcnosti umelej inteligencie z rúk technologických gigantov do rúk verejnosti.
