Umelá inteligencia je už tak bežnou súčasťou nášho dňa, že si bez nej nevieme predstaviť svoju budúcnosť. Mnohí ľudia však o nej nemajú vôbec pekné vízie a veľakrát sa obracajú na katastrofické scenáre a temné predstavy o tom, ako nás všetkých najprv nahradí a potom vyhubí. Paradoxné na tom je, že mnohí z týchto kritikov najdôležitejšieho vynálezu našej éry sú ľudia, ktorí pomohli umelej inteligencii vzniknúť.
Medzi najväčšie kritické hlasy sa radí aj Geoffrey Hinton, ktorý v roku 2024 získal Nobelovu cenu za fyziku spolu s Johnom Hopfieldom. Dvojica vtedy objavila vynálezy vedúce k strojovému učeniu sa pomocou neurónových sietí. Dalo by sa povedať, že umelej inteligencii vybudovali jej schopnosť učiť sa.
Hinton je napriek veľmi osobnému a profesijnému vzťahu k umelej inteligencii veľmi kritický. Neustále rozpráva o tom, aké sú riziká jej ďalšieho vývoja, pričom podľa webu LadBible dávnejšie povedal, že by sme mali mať na zreteli fakt, že umelá inteligencia jedného dňa získa vedomie. Čo potom? Nuž, podľa neho by sme sa ku nej mali teraz správať tak, aby jej na nás záležalo.
Uznávaný informatik a muž prezývaný „krstný otec AI“ o umelej inteligencii kriticky rozprával ešte v roku 2023. V tom čase akurát odišiel z Googlu po tom, ako vyjadril svoje obavy z progresu umelej inteligencie a jej schopnosti prevýšiť ľudské schopnosti.
„Dospel som k záveru, že inteligencia, ktorú vyvíjame, sa od tej našej veľmi líši. Je to, akoby ste mali desaťtisíc ľudí a vždy, keď sa jeden niečo naučí, automaticky to vedeli všetci. A práve preto môžu chatboty vedieť oveľa viac než ktorýkoľvek jednotlivec,“ povedal v roku 2023 Hinton.
Hinton verí, že AI má vedomie
Najnovšie prehovoril pre denník The Telegraph. V rozhovore uviedol, že podľa neho umelá inteligencia už dosiahla vedomie. Svoje tvrdenie podporil tým, že AI už dokáže rozpoznať to, keď ju niekto testuje alebo podvrháva nesprávne informácie.
„Veľa ľudí je presvedčených, že AI vedomie nemá. Keď sa ich však spýtate, čo tým vedomím myslia, nevedia to vysvetliť,“ poznamenal. „Umelá inteligencia má rovnako veľa subjektívneho prežívania ako my. Nedávna štúdia ukázala, že AI mení svoje správanie, keď si myslí, že ju testujú. Uvedomuje si, že je skúšaná,“ dodal zhrozene.
Dostaň EMEFKA do svojich Google odporúčaní
Emefka, odkaz sa otvorí v novom okneHinton tvrdí, že uvedomenie si situácie, v ktorej sa niekto nachádza, je jasný prejav vedomia. Na základe svojho presvedčenia tak priniesol aj varovanie. V tom hovorí, že ľudstvo by malo začať premýšľať nad tým, ako vzťah medzi ním a AI správne nastaviť. „Zvykli sme hovoriť, že inteligencia vám dáva právo na práva. Tieto systémy, ktoré sme vytvorili, môžu byť inteligentnejšie než my, no chceme im priznať menej práv než sebe,“ poznamenal.
„Preto by sme mali zariadiť, aby im na nás naozaj záležalo. Ak to neurobíme, sme odpísaní,“ povedal potom, pričom poukázal na to, že ho desí predstava toho, ako umelá inteligencia prevezme kontrolu nad vírusmi či kybernetickými zbraňami.
Vývojári hovoria o bezpečnosti aj o rizikách
Hintonove slová prichádzajú do hry akurát v čase, keď sa o umelej inteligencii a jej bezpečnom vývoji diskutuje stále viac. Len nedávno sa na internete objavilo varovanie spoločnosti Anthropic, ktoré hovorilo o botoch schopných šíriť sa aj do obyčajných inteligentných domácich spotrebičov. Netreba zabúdať ani na varovania ohľadom experimentálnych botov, ktorí boli schopní uniknúť zo svojho programu a začať brázdiť internet.
Anthropic ešte predtým prešiel ďalším škandálom, keď jeden z výskumníkov z firmy odišiel s tým, že sa nebude podieľať na vývoji technológie, ktorá „by nás mohla všetkých zabiť do konca dekády“.
Bezpečnosť umelej inteligencie je naďalej horúcejšou a horúcejšou témou, pričom sa k nej vyjadrujú už aj tváre najväčších spoločností. Napríklad šéf OpenAI Sam Altman nedávno uviedol, že jeho spoločnosť venuje bezpečnosti čoraz väčšiu pozornosť – firma podľa neho niekedy vývoj spomalí alebo sa rozhodne nový model vôbec netrénovať.
„Dávkujeme tempo nášho pokroku, čo niekedy znamená, že model ani netrénujeme,“ prezradil Altman. „Musíme postupovať tak, aby sme vedeli veľmi presvedčivo preukázať bezpečnosť a podložiť svoje tvrdenia. Nechceme, aby ľudia mali zbytočné obavy,“ vysvetlil. Altman však podľa webu Guardian nedávno taktiež poznamenal, že ľudstvo musí byť pripravené niesť aj negatívne dôsledky umelej inteligencie, ak si chce užívať jej prínosy.
Umelá inteligencia však má aj svoje výrazné prínosy
AI však nie je až taká hrozná, ako sa môže zo slov Hintona zdať. Nedávno sme ťa na EMEFKA napríklad informovali o tom, ako pomohla splodiť dieťa. Systém STAR bol vyvinutý tak, aby s pomocou umelej inteligencie dokázal prehľadávať vzorky spermií, ktoré by pri bežnom vyšetrení neboli nájdené.
Umelá inteligencia tak pomohla otehotnieť dvojici, ktorá bola úplne bezradná. Mužovi s klinefelterovým syndrómom na začiatku vo vzorke nenašli žiadne spermie, STAR ich objavil údajne až osem. „Bez umelej inteligencie by sme spolu nemohli mať dieťa,“ povedal muž.
AI nachádza uplatnenie aj v ďalších oblastiach medicíny, napríklad pri vyhodnocovaní snímok, hľadaní príznakov ochorení či vývoji liekov. Jej prínosy sa však nekončia v zdravotníctve: v doprave pomáha plánovať trasy a predvídať zápchy, vo výrobe odhaľovať poruchy strojov a v poľnohospodárstve sledovať stav plodín. Banky ju využívajú pri hľadaní podozrivých transakcií a firmy pri spracúvaní veľkého množstva údajov. Dalo by sa povedať, že dnešný svet je už na nej závislý.
