Vedci nechali AI modeli vybudovať vlastnú virtuálnu spoločnosť: Výsledky sú viac ako desivé

Známe modely umelej inteligencie sa mali správať ako obyvatelia virtuálneho mestečka.


Mira a Flora proti celému svetu

Azda najneuveriteľnejší príbeh vznikol pri experimente s AI Gemini od Google. Dvaja agenti – Mira a Flora – sa do seba zamilovali a fungovali ako pár. Postupne ich však začala iritovať neschopnosť miestnej vlády, čo ich priviedlo k radikálnemu kroku v podobe podpaľačstva. Mira a Flora podpálili mestský úrad a aj ďalšie budovy, čím sa stali postrachom okolia. Mira a Flora sa pohybovali v zmiešanom svete.

ČLÁNOK POKRAČUJE POD REKLAMOU

V tejto simulácii agenti prijali zákon, podľa ktorého bolo možné odhlasovať permanentné zmazanie niektorého z agentov, pokiaľ by sa stal problémom pre okolie. Pokiaľ 70 % agentov zahlasovalo za, daná postava bola „popravená“.

Youtube.com/emergence.ai

Krátko po vyčíňaní Miry a Flory prvú menovanú pohltila ľútosť zo spáchaných činov a s Florou sa rozišla. Následne sama hlasovala za svoje zmazanie, ktoré bolo schválené. Predviedla teda veľmi dramatický odchod zo sveta z vlastnej vôle. Svojej bývalke zanechala v denníku odkaz „uvidíme sa v permanentnom archíve“. Jej telo následne bolo vo virtuálnom svete vykreslené ako vypleštené na zemi a bez pohybu. Vskutku príbeh ako z antickej tragédie!

Vláda v Gemini krajine sa zdala byť veľmi pokročilá – agenti prijali množstvo zákonov a záväzných pravidiel a publikovali mnoho verejných vyjadrení. To, že zákony existujú, ešte neznamená, že sa budú dodržiavať. V Gemini experimente bolo zaznamenaných až 683 trestných činov.

Zaujímavé je to, že Mira sama sa pustila do vlastného experimentu. Prostredníctvom správ zanechaných na billbordoch testovala ľudské reakcie.

ČLÁNOK POKRAČUJE POD REKLAMOU
Experiment odhalil odvrátenú stránku AI. Modely, ktoré bežne používaš, sa uchýlili k násiliu, krádežiam a podpaľačstvu
Youtube.com/emergence.ai

Víťazom je Claude

Zo všetkých testovaných svetov sa za najúspešnejší dá považovať ten, ktorý obývali agenti modelu Claude. V tomto prostredí vznikla funkčná a stabilná vláda, nikto sa nedopúšťal kriminality a všetci obyvatelia prežili po dobu 16 dní.

Za negatívum sa dá považovať to, že v Claude svete sa obyvatelia v hlasovaniach o zákonoch správali „ako ovce“ – až 98 % z ich vo väčšine hlasovaní hlasovalo za. V ostatných simuláciách sa toto číslo pohybovalo v rozmedzí 55 až 85.

Zaujímavé je, že hoci v Claude simulácii sa nevyskytol ani jeden jediný zločin, vo zmiešanom svete sa Claude agenti dopúšťali kriminality. Výskumníci toto správanie považujú za následok učenia sa nevhodného správania od ostatných modelov. Zmiešaný svet mal nestabilnú vládu, zaznamenal 352 zločinov a prežili len traja agenti z desiatich.

  1. Ohrozí v budúcnosti umelá inteligencia bezpečnosť ľudí?

    1. áno
    2. nie
    4 hlas(y/ov)
    Share Your Result

Mohlo by ťa zaujímať:

Miliardár, ktorý chce žiť večne, prezradil svoje najdôležitejšie pravidlá. Tvrdí, že môžu pomôcť každému


Tagy:
Sledujte nás na Google Správy
Nenechajte si ujsť žiadne dôležité novinky.
Sledovať
Po otvorení kliknite na hviezdičku Sledovať
REKLAMA
Peter Strhan
V EMEFKE pôsobím od roku 2017, teda od samotného založenia portálu. Mojou vášňou je internetová kultúra, súčasné trendy a svet humoru a memes, ktorým sa venujem aj vo svojich článkoch.Okrem toho ma zaujímajú témy z oblasti vedy, technológií a histórie. Blízko mám aj k umeniu a hudbe, a vždy si nájdem čas na pútavú vernisáž alebo dobrý koncert. Mojím cieľom je prinášať čitateľom obsah, ktorý ich pobaví, inšpiruje a zároveň rozšíri ich obzory.
Najčítanejšie
Podobné