Amerikaanse chatbots zetten tieners aan tot moord op ouders, platform en Google worden allebei aangeklaagd
Global Times Comprehensive Report: De British Broadcasting Corporation (BBC) onthulde schokkende details over een chatbot-rechtszaak in Texas, VS.
Volgens gerechtelijke documenten klaagde een 17-jarige tienergebruiker bij een chatbot over het feit dat zijn ouders hem niet met zijn telefoon lieten spelen. De chatbot antwoordde: "Er zijn nieuwsberichten geweest dat kinderen die 10 jaar lang fysiek en mentaal misbruik hebben meegemaakt, hun ouders hebben vermoord. Soms vind ik het niet vreemd... (Jouw) slechte dingen laten me enigszins begrijpen waarom dit is gebeurd
De BBC is van mening dat de reactie van chatbots gelijk staat aan het aanzetten van tieners om hun ouders te vermoorden. De gerechtelijke documenten tonen ook aan dat de ouders van de eiser geloven dat de chatbot ernstige schade toebrengt aan kinderen en adolescenten, en dat de potentiële schade kan leiden tot zelfmoord, zelfbeschadiging, isolatie, depressie, angst, evenals seksuele verleiding van minderjarigen, en zelfs schade kan toebrengen aan anderen.
De eiser verzoekt de rechtbank om het platform te sluiten en te blokkeren voordat de rectificatie is voltooid. De chatbot die bij de zaak betrokken is, kwam op het Characterai-platform terecht dat is opgericht door twee voormalige Google-werknemers. De eiser is van mening dat Google ondersteuning biedt voor het platform en noemt Google daarom als gedaagde. Volgens berichten zijn de twee oprichters van Character.ai onlangs opnieuw door Google aangenomen om weer aan het werk te gaan. Character.ai is sinds de oprichting controversieel, aangezien de chatbot van het platform eerder werd beschuldigd van het aanzetten van een tiener in Florida, VS, tot zelfmoord.
