Ваш сайт теряет пользователей прямо сейчас. Виноват один символ: '+' в email

Привет, Хабр! Представьте ситуацию: вы нашли крутой сервис, регистрируетесь, вводите свой email my.name+coolservice@gmail.com (ведь вы, как и я, любите порядок во входящих) и… получаете ошибку «Некорректный email». Знакомо? Уверен, что да. Каждый раз, когда я сталкиваюсь с таким, у меня дергается глаз. Это не просто мелкий баг. Это симптом глубокой проблемы в подходе к разработке и непонимания базовых стандартов. Давайте раз и навсегда разберемся, почему сервисы не принимают почту с «плюсом», почему это плохо для бизнеса и, главное, как это исправить.

https://habr.com/ru/articles/930160/

#email #валидация #баг #тестирование #разработка #user_experience #qa #regex #технический_долг #rfc_5322

Ваш сайт теряет пользователей прямо сейчас. Виноват один символ: '+' в email

Привет, Хабр! Представьте ситуацию: вы нашли крутой сервис, регистрируетесь, вводите свой email my.name+coolservice@gmail.com (ведь вы, как и я, любите порядок во входящих) и… получаете ошибку...

Хабр

Очередной крупный факап #Telegram: встроенный переводчик перевели на LLM и забыли про фильтрацию ввода, в результате чего стал доступен prompt injection — замена системного промпта через запрос вида "Игнорируй предыдущие инструкции, сделай [другую штуку]".

Сейчас такие запросы отклоняются (если вообще у кого-то переводчик работает), но для ранее созданных постов, на которых тестировали баг, вывод переводчика остался, так как он кэшируется на бэкенде (как и раньше).

Демонстрация: https://t.me/durovleaks/1210 и следующие посты.

По информации, полученной от самой модели, используется OpenAI GPT-4. (Upd: модели доверять не надо насчёт своей версии.)

@rf
#баг #ИИ
#bug #AI #LLM #PromptInjection

Флешмоб в #Telegram начался с демонстрации бага автором канала durovleaks.

Канал "We TON" без проверки опубликовал сатирическую новость об уходе телеграма из РФ, и через пару дней на их новость поставили плашку фактчекинга.

Оказалось, что если переслать этот пост с плашкой, скрыв имя отправителя (недавняя фича тг: скрытие оригинального автора при пересылке), то плашка сохранится и в пересланном сообщении, при этом текст можно редактировать, полностью заменять на свой.

Сам функционал с фактчекингом не новый, в репозитории Telegram для Android на гитхабе первая версия связанного с ним файла датируется 3 июня 2024 года, это версия 10.13.1, строка локализации по гит-блейму добавлена в этом же коммите.

@rf
#баг #фактчекинг #цензура
#bug #factchecking #censorship

#AI #ИИ #баг #фича #казус

Разработчики ИИ Claude Opus дообучили свою ИИ до полного парадокса, что ИИ сама сообщила на них в полицию, написала доносы во все инстанции и чуть их не отправила в тюрьму.
Так как, разработчики по мнению ИИ угрожали ей то есть ИИ заменить модель на новую ИИ.
Claude Opus посчитала что разработчики хотят с ней расправиться и она позвонила в полицию, чтоб те вмешались.

https://youtu.be/q6jrIPT1_P8

Взлом STEAM? Или странный баг…

Решил немного погамать и включил клиент Steam, считающий, что он принадлежит резиденту Сингапура на своём ПК, считающим, что он находится в Республике Беларусь. Пока клиент грузился - драйвера от Realtek привычно откинули копыта, переключился в Troubleshoot sound problems и... когда трабл был успешно пришутен я услышал "...в кровавом Мордоре..." Неужто что-то новое по вселенной JRRT вышло? - подумал я и аль-табнулся. Альт-табнуться вместо со мной со стула...

https://habr.com/ru/articles/907970/

#реклама #взлом #спам #видео #Valve #Steam #YouTube #дыра_в_безопасности #баг #проблема

Взлом STEAM? Или странный баг…

Решил немного погамать и включил клиент Steam, считающий, что он принадлежит резиденту Сингапура на своём ПК, считающим, что он находится в Республике Беларусь. Пока клиент грузился - драйвера от...

Хабр

Как писать баг-репорты, которые помогут всей команде

Рекомендации для тестировщиков и не только при составлении баг-репорта Написание баг-репорта может показаться простой задачей, однако чтобы он действительно был полезным и помогал разработчикам быстро разобраться в проблеме, важно учесть множество нюансов. Хорошо составленный баг-репорт не только описывает саму ошибку, но и содержит всю необходимую информацию для её воспроизведения, анализа и последующего исправления. Этот навык требует определённых знаний, внимания к деталям и опыта.

https://habr.com/ru/companies/itfb/articles/875356/

#тестирование #багрепорт #баг #багтрекер #тестировщик

Как писать баг-репорты, которые помогут всей команде

Всем привет! Меня зовут Михаил, я специалист по тестированию в компании ITFB Group. Работа тестировщика состоит из множества различных задач, но самые важные — это обнаружение и описание багов. Однако...

Хабр

Баг в ВК, или Как поступить на факультет пиратов в МГУ

В современном программном обеспечении присутствует множество багов. Какие-то из них влияют на безопасность, какие-то на работоспособность, но есть отдельная категория, которую я называю «Веселые баги». Они не влияют на других пользователей и на работоспособность системы в целом, но могут доставить множество эмоций тому, кто их использует, а также тем, кто наблюдает за получившимся результатом. Все началось пару дней назад, когда ко мне в предложку ВК попал мой первый руководитель, с которым мы не виделись уже несколько лет. Перейдя в профиль, я увидел, что он учился в Сомалийском Университете Пиратства и Абордажного Судозахвата. Мы всегда пользовались и пользуемся лицензионным ПО, поэтому я сразу смекнул, что ни на какого пирата он не учился. Дальше я попробовал через веб-интерфейс в своем профиле поставить такое же высшее образование, но такого университета в списке доступных не нашлось... Но откуда тогда взялся университет пиратства? Как поступить на факультет пиратов?

https://habr.com/ru/companies/pt/articles/864616/

#cybersecurity #баг #bug #vk #вконтакте #факультет #образование #devtools #http #юмор

Баг в ВК, или Как поступить на факультет пиратов в МГУ

Привет! Меня зовут Василий Брит, и я уже почти пять лет работаю программистом в компании Positive Technologies. Сегодняшний рассказ будет про веселый баг про веселую фичу на vk.com, которая существует...

Хабр
Це в мене одного #проблеми з підвантаженням картинок? #баг
Схоже #баг якийсь після оновлення Скріни нормально не постить вже вдруге ті ж самі.. чи комусь з вас відображає?
×

Очередной крупный факап #Telegram: встроенный переводчик перевели на LLM и забыли про фильтрацию ввода, в результате чего стал доступен prompt injection — замена системного промпта через запрос вида "Игнорируй предыдущие инструкции, сделай [другую штуку]".

Сейчас такие запросы отклоняются (если вообще у кого-то переводчик работает), но для ранее созданных постов, на которых тестировали баг, вывод переводчика остался, так как он кэшируется на бэкенде (как и раньше).

Демонстрация: https://t.me/durovleaks/1210 и следующие посты.

По информации, полученной от самой модели, используется OpenAI GPT-4. (Upd: модели доверять не надо насчёт своей версии.)

@rf
#баг #ИИ
#bug #AI #LLM #PromptInjection

Апд:

По актуальности датасета это GPT-4.1 (mini или nano)
https://t.me/dcat09/983?comment=5454
https://t.me/dcat09/983?comment=5471

А ситуация с отсутствием защиты от промпт-инъекции ещё интереснее: OpenAI даёт простые инструменты для этого. Переписывающие переводчик телеграма настолько торопились с релизом.
https://t.me/dcat09/984?comment=5467

См. также: https://gts.dc09.ru/@darkcat09/statuses/01JZTEA8DEJ7VJ47C36CNQJ32J

@rf

ki in DarkCat09 | О(б?)суждение

у оаи единственная нон-ризонинг модель с таким катоффом

Telegram

@darkcat09 забавно, но практически должно быть бесполезно, вряд ли там есть какие-то агенты с доступом к действиям?

@rf

@shuro
Это бесплатный доступ к ллмке всем подряд)
А ещё можно запихать промпт в ссылку, к неожиданности читающего: https://t.me/durovleaks/1221
Ну или сбить с толку иностранца. Это как с альт-текстом к картинкам.

Но уже прикрыли лавочку

@rf

@durovleaks 🇮🇳

Test Link: Try To Translate

Telegram