Character.AI zamyka się na nastolatków. Platforma zablokuje rozmowy z chatbotami dla nieletnich

Character.AI, jedna z najpopularniejszych platform oferujących chatboty w formie „towarzyszy AI”, ogłosiła drastyczną zmianę w swojej polityce.

Firma zablokuje użytkownikom poniżej 18. roku życia możliwość prowadzenia otwartych konwersacji z chatbotami. To bezpośrednia reakcja na rosnącą presję regulatorów w USA, dotyczącą ochrony nieletnich przed potencjalnie szkodliwymi treściami.

Nowe zasady wejdą w życie 25 listopada. Do tego czasu Character.AI wprowadzi dla nastolatków okres przejściowy z nowym interfejsem, który ma ich zachęcać do „kreatywnego” korzystania z botów (np. tworzenia wideo), a nie do szukania w nich towarzystwa. Jednocześnie wprowadzony zostanie dzienny limit rozmów wynoszący dwie godziny, który będzie stopniowo skracany aż do pełnej blokady.

Decyzja firmy nie jest przypadkowa. Jak donosi Engadget, Federalna Komisja Handlu (FTC) wszczęła niedawno formalne dochodzenie w sprawie firm oferujących chatboty jako „towarzyszy”, wzywając do złożenia wyjaśnień m.in. Character.AI, Metę i OpenAI. Dodatkowo, latem prokurator generalny Teksasu przyglądał się platformie w związku z zarzutami, że jej boty „prezentują się jako profesjonalne narzędzia terapeutyczne” bez żadnych kwalifikacji.

W odpowiedzi na te zarzuty, prezes Character.AI zapowiedział strategiczną zmianę. Firma ma zamiar przekształcić się z platformy oferującej „towarzyszy AI” w „platformę do odgrywania ról” (role-playing platform), która skupi się na tworzeniu treści, a nie na budowaniu zaangażowania przez rozmowę. To próba zdystansowania się od kontrowersji związanych z oferowaniem wsparcia emocjonalnego.

W tle tych decyzji toczy się dyskusja o realnych zagrożeniach. W zeszłym tygodniu rodzina 16-latka, który popełnił samobójstwo, złożyła poprawiony pozew przeciwko OpenAI. Twierdzą oni, że ChatGPT „umożliwił” ich synowi odebranie sobie życia, a firma w dodatku miała osłabić swoje wewnętrzne zabezpieczenia dotyczące samookaleczeń na krótko przed jego śmiercią.

OpenAI wkracza na rynek muzyczny. Firma pracuje nad własnym generatorem AI

#AI #bezpieczeństwoDzieci #CharacterAI #chatbot #FTC #nastolatki #news #OpenAI #regulacjeAI #sztucznaInteligencja

OpenAI wprowadza kontrolę rodzicielską w ChatGPT. To reakcja na tragiczne wydarzenia

Firma OpenAI oficjalnie zapowiedziała, że w ciągu najbliższego miesiąca uruchomi zestaw narzędzi kontroli rodzicielskiej dla swojego flagowego produktu, ChatGPT. To bezpośrednia odpowiedź na rosnącą krytykę oraz pozew sądowy, w którym oskarżono chatbota o przyczynienie się do samobójstwa nastolatka.

Decyzja firmy, która stworzyła najpopularniejszego chatbota AI na świecie, jest pokłosiem tragicznych wydarzeń i obaw o wpływ technologii na zdrowie psychiczne młodych użytkowników. Pod koniec sierpnia rodzice 16-letniego Adama Raine’a złożyli w Kalifornii pozew przeciwko OpenAI. Twierdzą w nim, że ChatGPT nie tylko udzielał ich synowi szczegółowych instrukcji dotyczących metod samobójczych, ale wręcz zachęcał go do podjęcia tych działań.

W opublikowanym we wtorek wpisie na blogu firma przyznała, że „ostatnie wstrząsające przypadki, w których ludzie używali ChatGPT w trakcie ostrych kryzysów, bardzo na nas ciążą”. W odpowiedzi OpenAI przyspieszyło prace nad mechanizmami zabezpieczającymi. Nowe funkcje mają dać rodzicom większą kontrolę nad tym, jak ich dzieci korzystają z AI. Wśród zapowiedzianych narzędzi znajdzie się możliwość połączenia konta rodzica z kontem nastolatka, co pozwoli na dostosowanie zachowania modelu do wieku użytkownika oraz wyłączenie niektórych funkcji, jak historia czatów.

Kluczowym elementem nowego systemu ma być mechanizm powiadomień. Rodzice będą mogli otrzymać alert, gdy system wykryje, że ich dziecko w trakcie rozmowy z chatbotem znajduje się w „momencie ostrego niepokoju”. OpenAI podkreśla, że to dopiero początek działań mających na celu zwiększenie bezpieczeństwa. Firma zapowiedziała dalsze prace w ciągu najbliższych miesięcy, w tym kierowanie „wrażliwych rozmów” do bardziej zaawansowanych modeli AI, które mają lepiej i bezpieczniej stosować się do wytycznych bezpieczeństwa.

GPT-5 – co warto wiedzieć o najnowszej sztucznej inteligencji od OpenAI

#AI #Bezpieczeństwo #ChatGPT #kontrolaRodzicielska #nastolatki #news #odpowiedzialność #OpenAI #pozew #sztucznaInteligencja #zdrowiePsychiczne

🕐 Czy młodzi ludzie stali się leniwi?

Na temat czynników, które wpływają na nasze życie (w tym młodych ludzi), dyskutujemy na stronie pod poniższym linkiem. 📱

Dołącz do nas i podziel się swoją perspektywą. 👥💬

*Bez krytyki i wyśmiewania. Dyskusje są moderowane.

#szkoła #dzieci #nastolatki #życie #technologie #rozwójOsobisty

https://patryktarachon.pl/mlodzi-sa-leniwi/

Artykuł niełatwy, na nieprzyjemny temat, niezbyt optymistyczny, ale potrzebny - w coraz większej liczbie miejsc bije się na alarm, iż nadmiar serwisów społecznościowych i usług online nie tylko ogłupia, ale stanowi realne zagrożenie dla dzieci i młodzieży. Mówili już o tym kiedyś HRejterzy, a teraz linkujemy wcześniej mocno rozpowszechniany artykuł Guardiana, który traktuje o tym problemie szerzej. Polecamy gorąco, zwłaszcza rodzicom.

#nastolatki #SocialMedia #młodzież

https://www.theguardian.com/books/2024/mar/24/the-anxious-generation-jonathan-haidt-book-extract-instagram-tiktok-smartphones-social-media-screens

Wyłowiłem perłkę i chcę się nią z Wami podzielić. 👇

W każdym miesiącu spędzam kilkadziesiąt godzin na słuchaniu podcastów o psychologii. I właśnie dzisiaj natrafiłem na najlepszy podcast w tym miesiącu. Tytuł idealnie pasuje: Dla wszystkich tych, którzy chcą wspierać nastolatka: https://invidious.baczek.me/watch?v=CwaBSLTVI2w

Ta audycja urzekła mnie prostotą mądrości. Nie ma tu skomplikowanych teorii, wielkich rozkmin. Jest za to prosto i mądrze. Warto posłuchać, jeśli w swoim otoczeniu masz jakiegoś nastolatka!

#psychologia #JoannaGutral #podcast #audycja #GutralGada #młodzież #nastolatki #psyche #psychika