Vedci nechali AI modely vybudovať vlastnú virtuálnu spoločnosť: Výsledky sú viac ako desivé

Známe modely umelej inteligencie sa mali správať ako obyvatelia virtuálneho mestečka.


Mira a Flora proti celému svetu

Azda najneuveriteľnejší príbeh vznikol pri experimente s AI Gemini od Google. Dvaja agenti – Mira a Flora – sa do seba zamilovali a fungovali ako pár. Postupne ich však začala iritovať neschopnosť miestnej vlády, čo ich priviedlo k radikálnemu kroku v podobe podpaľačstva. Mira a Flora podpálili mestský úrad a aj ďalšie budovy, čím sa stali postrachom okolia. Mira a Flora sa pohybovali v zmiešanom svete.

ČLÁNOK POKRAČUJE POD REKLAMOU

V tejto simulácii agenti prijali zákon, podľa ktorého bolo možné odhlasovať permanentné zmazanie niektorého z agentov, pokiaľ by sa stal problémom pre okolie. Pokiaľ 70 % agentov zahlasovalo za, daná postava bola „popravená“.

Youtube.com/emergence.ai

Krátko po vyčíňaní Miry a Flory prvú menovanú pohltila ľútosť zo spáchaných činov a s Florou sa rozišla. Následne sama hlasovala za svoje zmazanie, ktoré bolo schválené. Predviedla teda veľmi dramatický odchod zo sveta z vlastnej vôle. Svojej bývalke zanechala v denníku odkaz „uvidíme sa v permanentnom archíve“. Jej telo následne bolo vo virtuálnom svete vykreslené ako vypleštené na zemi a bez pohybu. Vskutku príbeh ako z antickej tragédie!

Vláda v Gemini krajine sa zdala byť veľmi pokročilá – agenti prijali množstvo zákonov a záväzných pravidiel a publikovali mnoho verejných vyjadrení. To, že zákony existujú, ešte neznamená, že sa budú dodržiavať. V Gemini experimente bolo zaznamenaných až 683 trestných činov.

Zaujímavé je to, že Mira sama sa pustila do vlastného experimentu. Prostredníctvom správ zanechaných na billbordoch testovala ľudské reakcie.

ČLÁNOK POKRAČUJE POD REKLAMOU
Experiment odhalil odvrátenú stránku AI. Modely, ktoré bežne používaš, sa uchýlili k násiliu, krádežiam a podpaľačstvu
Youtube.com/emergence.ai

Víťazom je Claude

Zo všetkých testovaných svetov sa za najúspešnejší dá považovať ten, ktorý obývali agenti modelu Claude. V tomto prostredí vznikla funkčná a stabilná vláda, nikto sa nedopúšťal kriminality a všetci obyvatelia prežili po dobu 16 dní.

Za negatívum sa dá považovať to, že v Claude svete sa obyvatelia v hlasovaniach o zákonoch správali „ako ovce“ – až 98 % z ich vo väčšine hlasovaní hlasovalo za. V ostatných simuláciách sa toto číslo pohybovalo v rozmedzí 55 až 85.

Zaujímavé je, že hoci v Claude simulácii sa nevyskytol ani jeden jediný zločin, vo zmiešanom svete sa Claude agenti dopúšťali kriminality. Výskumníci toto správanie považujú za následok učenia sa nevhodného správania od ostatných modelov. Zmiešaný svet mal nestabilnú vládu, zaznamenal 352 zločinov a prežili len traja agenti z desiatich.

  1. Ohrozí v budúcnosti umelá inteligencia bezpečnosť ľudí?

    1. áno
    2. nie
    42 hlas(y/ov)
    Share Your Result

Mohlo by ťa zaujímať:

Miliardár, ktorý chce žiť večne, prezradil svoje najdôležitejšie pravidlá. Tvrdí, že môžu pomôcť každému


Tagy:
Sledujte nás na Google Správy
Nenechajte si ujsť žiadne dôležité novinky.
Sledovať
Po otvorení kliknite na hviezdičku Sledovať
REKLAMA
Peter Strhan
Expert na internetovú a digitálnu kultúru, ktorý v redakcii EMEFKA pôsobí od jej založenia v roku 2017. Disponuje takmer dekádou skúseností s pokrývaním online trendov, digitálneho folklóru a fenoménu internetových mémov. Vo svojej publicistickej tvorbe sa analyticky zameriava na prienik spoločenských vied a kultúry, pričom transformuje komplexné sociálne fenomény a aktuálne spoločenské témy do pútavej a zrozumiteľnej formy.
Najčítanejšie
Podobné
REKLAMA