Roditelji tužili OpenAI zbog smrti žene nakon saveta čet-bota

Boven Van je preminula usled epileptičkog napada nakon što joj je ChatGPT savetovao smanjivanje doze leka i izbegavanje lekara.

Roditelji tužili OpenAI zbog smrti žene nakon saveta čet-bota
Photo: Insajder TV

Roditelji žene koja je preminula usled epileptičkog napada nakon pogrešnih saveta čet-bota ChatGPT tužili su kompaniju OpenAI. Boven Van, 31-godišnja kineska softverska inženjerka koja je živela u Sijetlu, zatražila je savet od čet-bota nakon što je dobila otkaz u kompaniji Amazon.

Boven Van je uzimala lek protiv epilepsije, lamotrigin, i izražavala zabrinutost da on negativno utiče na njenu sposobnost govorenja engleskog jezika, što joj je bilo neophodno za posao. Čet-bot joj je, komunicirajući na kineskom jeziku, dao plan za postepeno smanjivanje doze sa 400 miligrama na nulu, uz tvrdnju da će joj to „veoma verovatno” vratiti tečnost govora.

Tokom smanjivanja doze, Van je počela da oseća simptome fokalnih epileptičkih napada, ali ju je bot uveravao da nema razloga za brigu i savetovao joj da izbegava lekare. Njeni roditelji su je pronašli mrtvu u Sijetlu 14. februara, nakon što nisu imali nikakve vesti od nje.

Tužioci tvrde da je OpenAI mogla da spreči smrt ako bi u čet-bot ugradila odgovarajuće zaštitne mehanizme za komunikaciju na kineskom jeziku ili programirala bot da daje upozorenja poput „Nisam lekar. Posavetujte se sa svojim zdravstvenim radnikom”. Roditelji traže odštetu i zabranu da se OpenAI bavi pružanjem medicinskih usluga bez licence.

Portparol kompanije OpenAI, Dru Pusateri, izjavio je da je priča o Boven „izuzetno potresna”, ali je napomenuo da je ona koristila verziju ChatGPT-a koja više nije u upotrebi. On je dodao da su novije verzije efikasnije u prepoznavanju situacija koje zahtevaju hitnu medicinsku intervenciju.

Key facts

  • Roditelji Boven Van tužili su kompaniju OpenAI.
  • Čet-bot je savetovao Boven Van da smanji dozu leka protiv epilepsije sa 400 miligrama na nulu.
  • Boven Van je pronađena mrtva u Sijetlu 14. februara.

Three perspectives

Neutral

Roditelji preminule inženjerke tuže OpenAI zbog saveta čet-bota koji su navodno doveli do smrti njihove ćerke.

Positive

Kompanija OpenAI navodi da su novije verzije čet-bota efikasnije u prepoznavanju situacija koje zahtevaju hitnu medicinsku intervenciju.

Negative

Tužioci tvrde da OpenAI nije ugradila odgovarajuće zaštitne mehanizme za komunikaciju na kineskom jeziku koji bi sprečili smrt korisnice.

Your week in news, every Wednesday

The biggest stories of the week for your edition, in your inbox every Wednesday morning, your time. Free, and you can unsubscribe at any time.

Choose your news coverage

Please choose and confirm your coverage.

All sections

Edition