Kalifornien har med sina nära 40 miljoner invånare infört lagar för AI-partners. Lagen är tänkt att skydda minderåriga och andra mer utsatta användare från risker kring chattbottar som försöker efterlikna en mänsklig vän eller romantisk partner.

Lagen träder i kraft direkt efter årsskiftet. Utvecklare måste införa åldersverifiering och varningar för AI-partners. Tjänsterna behöver även påpeka för användaren att chattbotten är artificiell och inte en människa.

Lagen inkluderar flera andra regler kring AI, likt högre böter för de som drar nytta av illegala deepfakes. AI-utvecklare måste även införa säkerhetsprotokoll för att motverka och hantera självskadebeteende.

We’ve seen some truly horrific and tragic examples of young people harmed by unregulated tech, and we won’t stand by while companies continue without necessary limits and accountability. We can continue to lead in AI and technology, but we must do it responsibly — protecting our children every step of the way. Our children’s safety is not for sale.

– Gavin Newsom