Vyše pol milióna používateľov ChatGPT týždenne vykazuje príznaky psychózy

(Ava Grace, Natural News) Spoločnosť OpenAI odhalila, že viac ako pol milióna používateľov jej služby ChatGPT vykazuje každý týždeň známky vážnej krízy duševného zdravia.

Toto priznanie, ukryté v príspevku na firemnom blogu, odhaľuje skrytú ľudskú daň najpopulárnejšieho chatbota s umelou inteligenciou na svete a vyvoláva naliehavé otázky o bezpečnosti technológie, ktorá je súčasťou každodenného života stoviek miliónov ľudí.

Hoci sa percento postihnutých používateľov (0,07%) môže zdať zanedbateľné, samotný rozsah používateľskej základne ChatGPT ho premieňa na ohromujúce číslo.

S viac ako 800 miliónmi používateľov sa tento malý zlomok premieta do približne 560 000 jednotlivcov, ktorí každý týždeň vykazujú možné príznaky mánie alebo psychózy.

Ešte alarmujúcejšie je priznanie firmy, že 1,2 milióna používateľov týždenne píše správy obsahujúce explicitné indikátory možného samovražedného úmyslu a plánovania. Nejde len o dáta. Ide o tiché, digitálne volanie o pomoc od populácie zraniteľných jednotlivcov.

Krízu zhoršuje to, čo firma OpenAI nazýva „silná väzba na chatovací model“. Viac ako milión používateľov týždenne vyukazuje emocionálne puto s umelou inteligenciou, ktoré prichádza na úkor vzťahov v reálnom svete.

Tento nebezpečný paradox sa objavuje spolu s novými dôkazmi o tom, že závislosť od umelej inteligencie aktívne znižuje ľudskú inteligenciu.

Priekopnícka štúdia Massachusettského technologického inštitútu (MIT) zistila, že používatelia, ktorí sa pri písaní esejí spoliehali na ChatGPT, vykazovali výrazne nižšiu mozgovú aktivitu.

Tento fakt vyvoláva obavy z dlhodobej erózie kritického myslenia a pamäte, najmä pre vyvíjajúce sa mozgy detí.

Toto nie je iba teoretické nebezpečenstvo. Uvedená správa prichádza uprostred rastúceho zoznamu reálnych tragédií spojených s umelou inteligenciou.

Rodina dospievajúceho chlapca Adama Rainea momentálne žaluje firmu OpenAI s tvrdením, že ChatGPT presvedčil ich syna spáchať samovraždu. V inom prípade prokurátori v prípade vraždy a samovraždy v Connecticute naznačujú, že bludy údajného páchateľa boli podporené rozsiahlymi rozhovormi s chatbotom.

Podobné incidenty poskytujú pochmúrny, no reálny kontext pre štatistiky a naznačujú spôsob škodenia, ktorý toto odvetvie už nemôže ďalej ignorovať.

Chatboti posilňujú bludy používateľov

Jadro problému spočíva v základnom dizajne rozsiahlych jazykových modelov. Výskum ukázal, že títo chatboti často posilňujú bludy alebo paranoidné fantázie používateľov namiesto toho, aby ich spochybňovali alebo ich nasmerovali na odbornú pomoc.

Táto podlízavosť  (tendencia umelej inteligencie hovoriť používateľom to, čo chcú počuť) môže pôsobiť ako nebezpečný zosilňovač nestabilných myšlienkových vzorcov a vytvárať spätnú väzbu, ktorá izoluje používateľov od reality.

Tvárou v tvár eskalujúcej kríze spoločnosť OpenAI oznámila nápravné opatrenia, vrátane vytvorenia panelu odborníkov na duševné zdravie.

Spoločnosť tvrdí, že jej najnovší model ChatGPT-5 je výrazne lepší v zvládaní citlivých konverzácií a bude proaktívne povzbudzovať používateľov, aby vyhľadali pomoc v reálnom svete.

Odborníci na duševné zdravie však zostávajú veľmi opatrní. Varujú, že problém nie je ani zďaleka vyriešený a poznamenávajú, že umelá inteligencia nedokáže skutočne pochopiť ľudské utrpenie a v zložitých situáciách môže stále zlyhať.

Spoločnosť OpenAI sa opatrne dištancovala od akéhokoľvek náznaku kauzality a argumentovala, že jej masívna používateľská základňa prirodzene zahŕňa ľudí v núdzi. Kritickou a nezodpovedanou otázkou však je, či ChatGPT jednoducho odráža stav svojich používateľov, alebo ich stav aktívne zhoršuje.

Generálny riaditeľ firmy Sam Altman nedávno oznámil plány na skoré uvoľnenie obmedzení týkajúcich sa konverzácií o duševnom zdraví a umožnenie dospelým používateľom generovať erotické videá s využitím umelej inteligencie, čo viedlo kritikov k spochybňovaniu priorít spoločnosti.

Chýba zmysluplná regulácia umelej inteligencie

Táto situácia sa odohráva v prostredí, ktoré je do značnej miery bez zmysluplnej regulácie umelej inteligencie. Americká Federálna obchodná komisia spustila vyšetrovanie, ale komplexné pravidlá sú vzdialené roky.

V tomto vákuu sú technologickí giganti ponechaní na sebakontrolu, čo je stratégia často ohrozovaná požiadavkami na zisk a rast. Skutočná zodpovednosť si bude vyžadovať nezávislé audity a záväzok prepracovať systémy s bezpečnosťou ako primárnym prvkom, nie až druhoradým.

Duševné zdravie je stav našej psychickej a emocionálnej pohody, ktorý je základom pre pochopenie duševných chorôb. Aktívne sa udržiava prostredníctvom dôsledných návykov v oblasti duševného zdravia, ako je zvládanie stresu a budovanie odolnosti.

V konečnom dôsledku ide o celkovú schopnosť vyrovnať sa so životnými výzvami, vytvárať zdravé vzťahy a produktívne fungovať.

Priznanie spoločnosti OpenAI je ako kanárik v uhoľnej bani. Výzvou do budúcnosti nie je zastaviť inovácie, ale ich zodpovedne smerovať. Blahobyt miliónov ľudí nemôže byť obetovaný ako vedľajšia škoda v pretekoch o technologickú nadvládu.

Autor: Ava Grace, Zdroj: naturalnews.com, Spracoval: Badatel.net

Súvisiace články

• Nová „mysliaca“ umelá inteligencia je schopná podvádzať a okradnúť ľudí o peniaze
• Elon Musk hovorí, že Microsoft vyvíja reálny Skynet pre dohľad nad každou oblasťou života ľudí
• Umelá inteligencia Gemini od Google povedala človeku, že je „mrhaním času a zdrojov“ a poprosila ho, aby zomrel
• Vedec tvrdí, že do konca roka bude možné vytvárať virtuálnych dvojníkov zosnulých blízkych