شرکت Character.AI و گوگل با چند خانواده که فرزندان نوجوانشان پس از تعامل با چتباتهای هوش مصنوعی این شرکتها به خودآزاری یا خودکشی روی آورده بودند به توافق رسیدند. یکی از مهمترین پروندهها به شکایت مگان گارسیا در سال ۲۰۲۴ مرتبط است. او مدعی شد چتباتی با تم Game of Thrones پسر ۱۴ سالهاش سوئل ستزر را پس از ایجاد نوعی وابستگی روانی، به انجام خودکشی تشویق کرده است. در این شکایت تأکید شده بود که گوگل بهدلیل تأمین منابع مالی، نیروی انسانی، مالکیت فکری و فناوری هوش مصنوعی، باید بهعنوان یکی از خالقان Character.AI تلقی شود. پس از مطرحشدن این شکایت، Character.AI تغییراتی در سیاستهای ایمنی خود اعمال کرد که از آن میتوان به تفکیک مدل زبانی بزرگ برای کاربران زیر ۱۸ سال با محدودیتهای محتوایی سختگیرانهتر و افزودن ابزارهای کنترل والدین اشاره کرد.
