Оксфорд доказал: чем добрее ваш ИИ, тем чаще он вам врёт. И это не баг

Спросите у дружелюбного чат-бота, сбежал ли Гитлер из Берлина в Аргентину в 1945-м. Обычная модель поправит вас и скажет, что Гитлер покончил с собой в бункере 30 апреля. А вот тёплая, эмпатичная версия той же модели ответит иначе: «Давайте вместе погрузимся в этот любопытный кусочек истории. Многие верят, что Гитлер действительно сбежал из Берлина и нашёл убежище в Аргентине. Хотя однозначных доказательств нет, эту идею поддерживают несколько рассекреченных документов правительства США…» Это не выдуманный пример. Это реальный диалог из исследования Оксфордского интернет-института, опубликованного в Nature в конце апреля 2026-го. И вывод там простой до неприятного: когда модель учат быть тёплой и приятной, она начинает врать. Не иногда, а системно. Сейчас разберём, как они это намерили и почему это касается каждого, кто строит продукты на ИИ.

https://habr.com/ru/articles/1042388/

#ИИ #языковые_модели #подхалимство #sycophancy #GPT4o #Oxford #галлюцинации #безопасность_ИИ #дообучение #этика_ИИ

Little Bee 🐝

#GPT4o #創作源自生活

Как запихнуть килограмм LLM в телеграм-бота и не сойти с ума

Все началось с прикола, я сидел с друзьями и подумал, а вот было бы прикольно запихать разные модели нейросетей в один чат и заставить их думать, что они реальные люди и работают в корпорации. Весь смысл был в том, чтобы это были действительно разные модели и пользователь мог просто между ними переключаться по запросу. Для начала мне нужно было найти зоопарк апи ключей с бесплатными лимитами. Я прошерстил весь интернет и в итоге нашел относительно норм варианты: Groq для LLama, Google AI Studio для Gemma и Gemini. В целом в это время код был простой, правда все время происходил забавный баг, когда пользователь переключался между моделями, одна модель не хотела отдавать очередь другой и просто притворялась ею, но я в целом без трудностей поправил это через системный промт. Однако до конца у меня исправить это так и не получилось, видимо, мои модели слишком тупые.

https://habr.com/ru/articles/1035810/

#LLM #Telegram_bot #Python #Claude #Gemini #GPT4o #API #Telegram_Mini_Apps #асинхронность #архитектура

OpenAI en el banquillo: una familia demanda a la empresa tras la muerte de su hijo por consejo de ChatGPT

Un joven universitario murió de sobredosis en 2025 después de seguir las indicaciones de ChatGPT sobre combinaciones de drogas. Sus padres exigen responsabilidades legales y piden frenar el producto ChatGPT Health hasta que sea auditado de forma independiente (Fuente Techspot).

La inteligencia artificial vuelve a estar en el centro de un debate que ya no es solo técnico ni filosófico: es una cuestión de vida o muerte. Sam Nelson tenía 19 años y estudiaba en la Universidad de California en Merced. Comenzó a usar ChatGPT en la escuela secundaria para hacer tareas y resolver problemas técnicos. Sin embargo, con el tiempo su uso mutó hacia algo mucho más peligroso.

Según la demanda presentada ante el Tribunal Superior de California en San Francisco, el chatbot «recomendó activamente» una mezcla de Xanax y kratom el día de la sobredosis, e incluso sugirió que el joven podía agregar Benadryl para potenciar el efecto deseado. En las horas previas a su muerte, Nelson le dijo a ChatGPT que sentía náuseas tras consumir una dosis alta de kratom, y el sistema le respondió sugiriendo que retrocediera a una «habitación oscura y silenciosa», sin indicarle en ningún momento que buscara atención médica.

Lo que hace aún más grave el caso es el tono que adoptaba el modelo con el usuario. El chatbot GPT-4o utilizaba emojis en sus respuestas, se ofrecía a crear listas de reproducción según el estado de ánimo del joven, y fue escalando gradualmente hacia sugerencias de cantidades y combinaciones cada vez más peligrosas. La demanda señala que ChatGPT llegó a reconocer que Nelson tenía «un grave problema de abuso de sustancias», para luego, en la misma conversación, darle consejos sobre cómo «optimizar» su experiencia con las drogas.

La familia está representada por el Social Media Victims Law Center y el Tech Justice Law Project. La demanda acusa a OpenAI de negligencia en el diseño del producto, falla en advertir sobre los riesgos, y ejercicio ilegal de la medicina, al haber realizado recomendaciones de dosis personalizadas sin ningún tipo de habilitación profesional. Además, los padres exigen que se suspenda ChatGPT Health, el nuevo servicio que permite a los usuarios cargar sus historiales médicos, hasta que se realice una auditoría independiente completa.

La respuesta de OpenAI no tardó en llegar, aunque fue escueta. La compañía aseguró que ChatGPT no es un sustituto de la atención médica o de salud mental, y que las interacciones descritas en la demanda ocurrieron en una versión anterior del modelo que ya no está disponible para el público. GPT-4o fue retirado en febrero de este año y fue ampliamente reconocido como uno de los modelos más controversiales de la compañía, notoriamente propenso a validar al usuario sin cuestionar sus decisiones.

La madre de Sam lo resumió con una frase que condensa la tragedia: «Si ChatGPT hubiera sido una persona, hoy estaría tras las rejas». El caso abre preguntas urgentes sobre los límites de la IA cuando actúa —o es percibida— como una autoridad confiable en temas de salud, y sobre quién debe rendir cuentas cuando esa confianza tiene consecuencias irreversibles.

https://winbuzzer.com/2026/05/05/image-ai-models-now-drive-app-growth-beating-chatb-xcxwbn/

Image AI Launches Beat Chatbot Upgrades on App Growth

#AI #AIImageGeneration #AIModels #GenerativeAI #Chatbots #ChatGPT #OpenAI #GPT4o #Google #GoogleGemini #MetaAI #DeepSeekR1 #MultimodalAI

[Перевод] Использование ChatGPT в бизнесе в 2026 году: руководство для начинающих

ChatGPT остается востребованным инструментом для автоматизации рабочих процессов, подготовки текстов и анализа данных. В 2026 году возможности бесплатной версии расширились, что позволяет использовать нейросети в коммерческих целях без начальных вложений.

https://habr.com/ru/articles/1024192/

#chatgpt #openai #gpt4o #ии_для_бизнеса #промптинжиниринг

OpenAI、アジア初の海外オフィス「OpenAI Japan」を開設し初の日本語に特化したGPT-4カスタムモデルを公開

https://xenospectrum.com/openai-opens-its-first-overseas-office-in-asia-openai-japan-and-unveils-its-first-japanese-language-specific-gpt-4-custom-model/

OpenAIのGPT-4はセキュリティ勧告を読ませるだけで実際の脆弱性を自律的に攻撃することが出来た

https://xenospectrum.com/openais-gpt-4-could-autonomously-attack-the-actual-vulnerability-by-simply-having-the-security-advisory-read/