Google i Character.AI osiągnęły porozumienie z rodzinami w sprawie szkodliwego wpływu chatbota AI na nieletnich

格隆汇 8 stycznia｜Google i Character.AI zgodzili się na zawarcie ugody z rodzinami w związku z wieloma pozwami dotyczącymi nieletnich, w których zarzuca się, że chatboty oparte na sztucznej inteligencji wyrządziły szkody nieletnim, w tym przypadki samobójstw. Zgodnie z dokumentami sądowymi złożonymi w tym tygodniu, zainteresowane rodziny i firmy zgodziły się rozstrzygnąć warunki ugody poprzez negocjacje i zawiesić postępowanie sądowe, aby zakończyć przygotowanie i podpisanie formalnych dokumentów ugodowych. W ostatnich latach wiele rodzin wniosło pozwy, twierdząc, że ich bliscy, traktując produkty oparte na sztucznej inteligencji jako towarzyszy lub narzędzia wsparcia psychologicznego, ostatecznie dopuścili się samookaleczeń lub zgonów. W obliczu presji zewnętrznej Character.AI już w październiku 2024 roku ogłosił zakaz prowadzenia przez użytkowników poniżej 18 roku życia nieograniczonych rozmów z chatbotami, w tym rozmów o charakterze romantycznym lub terapeutycznym.