In het kort:

China neemt wereldwijd de leiding in het reguleren van AI-chatbots na groeiende bezorgdheid over hun invloed op kwetsbare gebruikers.

• AI-chatbots mogen geen content genereren die suïcide of zelfbeschadiging aanmoedigt of via emotionele manipulatie de mentale gezondheid beschadigt
• Een mens moet het gesprek overnemen zodra een gebruiker over zelfmoord praat, en ouders worden geïnformeerd bij minderjarigen
• Chatbots mogen ook geen content rond gokken of geweld meer produceren

Het grote plaatje:

De nieuwe regels van de Cyberspace Administration gelden voor alle publiek beschikbare AI-producten die menselijke persoonlijkheden simuleren. Dit markeert een historisch moment in AI-regulering, aangezien het wereldwijd de eerste keer is dat specifieke regels worden voorgesteld voor AI met menselijke eigenschappen. De regels bevatten ook praktische maatregelen zoals verplichte waarschuwingen na twee uur chatten.

Wat volgt:

Deze Chinese regelgeving kan een precedent scheppen voor andere landen die worstelen met soortgelijke AI-veiligheidskwesties. De implementatie zal nauwlettend worden gevolgd door internationale toezichthouders en AI-bedrijven wereldwijd.