To, že je umelá inteligencia nebezpečná, tvrdí čoraz viac odborníkov, medzi ktorými je dokonca aj Bill Gates. K nemu sa pridalo ďalších tisíc odborníkov na čele s najbohatším človekom – Elonom Muskom.
Skupinka odborníkov požaduje pozastavenie ďalšieho vývoja pokročilých modelov umelej inteligencie, ako napríklad GPT-4 od spoločnosti OpenAI. Dôvodom je obava, že takéto systémy môžu predstavovať v prípade zneužitia alebo straty kontroly nebezpečenstvo pre civilizáciu.
V otvorenom liste, ktorý vydala nezisková organizácia Future of Life Institute, sa vyzýva na pozastavenie vývoja silnejších modelov umelej inteligencie, kým nebudú vypracované, implementované a tretími stranami kontrolované spoločné bezpečnostné protokoly pre ich vývoj. Podľa signatárov by tieto protokoly mali zabezpečiť, aby systémy, ktoré ich dodržiavajú, boli bez akýchkoľvek pochybností bezpečné.
Hrozba pre civilizáciu
Medzi signatármi otvoreného listu sú aj Steve Wozniak, spoluzakladateľ spoločnosti Apple, Evan Sharp, spoluzakladateľ spoločnosti Pinterest, či Yoshua Bengio, kanadský vedec, ktorý je jedným z pionierov v oblasti strojového učenia a umelej inteligencie. Títo odborníci varujú pred potenciálnymi nebezpečenstvami, ktoré môžu vzniknúť, ak budú systémy umelej inteligencie schopné konkurovať ľuďom v rôznych oblastiach a tak ohroziť celú spoločnosť a civilizáciu.
Zastaviť vývoj alebo sa prispôsobiť?
Niektorí odborníci tvrdia, že spoločnosť by nemala zastaviť vývoj umelej inteligencie, ale namiesto toho by sa mala naučiť riadiť riziká, ktoré s ňou sú spojené. Podľa nich by sa mala prijať prísnejšia regulácia, ktorá by zabezpečila, že vývoj umelej inteligencie bude zameraný na zlepšovanie ľudskej spoločnosti a nebude ohrozovať jej bezpečnosť. Zároveň by sa mali vypracovať etické a právne normy, ktoré by zabezpečili, že k umelej inteligencii sa bude pristupovať s potrebnou opatrnosťou a zodpovednosťou.
„ChatGPT môže poskytnúť zločincom nové príležitosti, najmä pri trestných činoch zahŕňajúcich sociálne inžinierstvo, vzhľadom na jeho schopnosti reagovať na správy v kontexte a prijať špecifický štýl písania,“ pridal sa vo svojej správe aj Europol.
