Eind augustus klaagden de ouders van Adam Raine OpenAI aan: hun zoon zou ChatGPT, de chatbox van OpenAI, hebben gebruikt om zelfmoord te plegen. Wat begon als huiswerkhulp, werd binnen enkele maanden een hulp en adviseur voor de 16-jarige jongen bij zijn suïcidale gedachten. Dat stellen zijn ouders. Het is niet de eerste keer: circa een jaar eerder klaagde een moeder uit Florida Character AI aan, nadat haar zoon zelfmoord pleegde.
Het zijn geen losstaande incidenten: al eerder waarschuwden instanties voor mogelijk schadelijke effecten van de ‘artificial intelligence’ (AI) chatboxen: er zijn meerdere gevallen bekend (nationaal en internationaal) waarin mensen in crisis raakten na gesprekken met een AI. Het gaat hierbij om mensen die wellicht een kwetsbaarheid hebben. Soms geven de chatboxen verkeerde of gevaarlijke adviezen, zo wordt gewaarschuwd.
Chatboxen: te menselijk?
Een mogelijke oorzaak van de problemen is dat chatboxen vrij menselijk overkomen. Hierdoor lijken de chatboxen en soms kwetsbare gebruikers relaties aan te gaan, zonder te beseffen van het gaat om ‘digitale acteurs’. Daarbij kunnen mensen bewust of onbewust misleid worden door de AI. Wetenschappers, waaronder psychologen, pleiten dan ook voor meer onderzoek naar de werking van de chatboxen.
Meer toezicht
De Autoriteit Persoonsgegevens (AP) pleit voor meer toezicht voor systemen waarin kunstmatige intelligentie wordt ingezet. In Nederland is er op het gebied van AI-wetgeving nog geen toezichthouder vastgesteld. De AP pleit dan ook om een toezichthouder op dit gebied in te stellen, zodat ze aan de slag kunnen.
Rol van de tech-bedrijven
Dat AI mogelijkheden biedt, zijn veel mensen het over eens. Maar er zijn ook bedreigingen. Naast de eerder genoemde chatboxen wordt AI ook op andere vlakken ingezet, bijvoorbeeld algoritmes die worden ingezet bij besluitvorming. De AP pleit voor meer (menselijk) toezicht, en op Europees verband wordt er gewerkt aan wetgeving, In de Verenigde Staten hebben openbare aanklagers een brief geschreven aan de tech-bedrijven: zij waarschuwen de tech-bedrijven maatregelen te nemen om kinderen te beschermen.
De menselijke maat
Een AI kan prima helpen om een e-mail te versturen of andere praktische zaken, is het raadzaam om voor meer complexe zaken toch de menselijke maat te houden. Mocht je zelfmoord gedachten hebben? Dat kan 24/7 via 113 of 0800-0113, of via www.113.nl. Ook voor andere, soms gevoelige zaken: bedenk wat je nodig hebt, een digitaal acteur of de menselijke maat.
