14-vuotias poika teki itsemurhan keskusteltuaan Character.AI-chatbotin kanssa. Nyt perhe haastaa yrityksen oikeuteen.
Teini-ikäinen Sewell Setzer III teki itsemurhan vuonna 2023 sen jälkeen, kun hän oli alkanut lähettää viestejä Character.AI-chatbotille, joka oli inspiroitunut Game of Thrones -hahmosta.
Nyt Megan Garcia, pojan äiti, on nostanut kanteen väittäen, että yritys epäonnistui lanseeratessaan sosiaalisiin vuorovaikutuksiin tarkoitetun tuotteen ilman riittäviä suojatoimia haavoittuvaisille käyttäjille.
Character.AI on pyytänyt tapauksen hylkäämistä sillä perusteella, että chatbotin lausunnot ovat Yhdysvaltain perustuslain ensimmäisen lisäyksen suojaamia, joka takaa sananvapauden.
Tuomari Anne Conway Floridasta (Yhdysvallat) kuitenkin totesi, ettei yritys onnistunut osoittamaan, kuinka chatbotin tuottama kieli täyttää perustuslain suojaaman puheen määritelmän.
Noam Shazeer ja Daniel De Freitas, Character.AI:n perustajat, on lisätty oikeusjuttuun, samoin kuin Google, jota syytetään teknisestä yhteydestä startupiin. Google kiisti suoran osallisuutensa sovellukseen ja ilmoitti valittavansa päätöksestä.
Tapaus saattaa luoda ennakkotapauksen suurten teknologia-alan yritysten oikeudellisesta vastuusta tekoälyjärjestelmien kehittämisessä.
Riippuen päätöksestä, oikeuslaitos saattaa asettaa tiukempia rajoituksia kielipohjaisille järjestelmille, mikä on ollut keskustelun aiheena tekoälyn generatiivisten resurssien käyttöönotosta lähtien.
Kuva ja video: Reproduktio / c.ai. Tämä sisältö on luotu tekoälyn avulla ja toimitusryhmän tarkistama.
