Dziś użycie dużych modeli językowych często wiąże się z dawaniem im dostępu do systemu: możliwości czytania i zapisywania plików, uruchamiania poleceń, często bez jakiegokolwiek nadzoru. Czy ludzie nie martwią się, że zdalny #LLM może zlecać dowolne operacje?

Ostatnio usłyszałem stwierdzenie, które dobrze podsumowuje ten stan umysłu. Było to mniej-więcej "nie mogę dać 100% gwarancji, ale zauważyłem, że LLM-y dobrze radzą sobie z przestrzeganiem poleceń. Do tego LLM-y stają się coraz lepsze, więc już się tym nie martwię".

Czyli tworzymy gigantyczną lukę bezpieczeństwa, ale to jest w porządku, bo prawdopodobieństwo, że LLM *przypadkowo* zrobi coś złego jest coraz mniejsze.

#AI #BezAI #BezLLM #bezpieczeństwo

Naprawdę uważam, że duże modele językowe to najgorsze, co przytrafiło się w świecie komputerów w ostatnich latach (bądź kulminacja całego procesu, który psuje ten świat), i popieram akcje dywersyjne przeciw nim skierowane, od "zatruwania" danych, po nadużywanie czatbotów wsparcia, by czynić je nieopłacalnymi. Lecz jednocześnie mam świadomość, że te wszystkie działania powiększają szkodę dla środowiska, którą powoduje tłuszcza ejajowców.

To trochę jak taka partyzantka. Metaforycznie podkładamy ogień pod budynki, i jestem wściekły, że sprawy musiały posunąć się tak daleko.

#AI #LLM #BezAI #BezLLM

Nigdy nie stosowałem naszywek (minimalizm), ale serio zastanawiam się nad czymś w stylu przekreślonego "AI" z dopiskiem "mam własny mózg*".

* teza potwierdzona badaniem RM

#BezAI #BezLLM

Ciekawe, że #Google i #Microsoft tak bardzo starają się zademonstrować efekt utopionych kosztów.

#AI #LLM #BezAI #BezLLM

Przeciętny użytkownik #LLM:

Jakim prawem oskarżasz mnie o popieranie niewolnictwa? Nigdy tak nie twierdziłem. Ja po prostu kupuję tani tytoń! Nie moja wina, że cały tani tytoń pochodzi z plantacji opartych na niewolnictwie! Zamiast czepiać się innych, znajdź mi jeszcze tańszy tytoń, który zbierany będzie etycznie, i z chęcią się przerzucę!

A w ogóle to to jest prześladowanie palaczy! My tylko pragniemy, by ludzie respektowali naszego konstytucyjnego prawa, żeby truć wszystkich wokół siebie! Czy to tak wiele?!

#AI #BezAI #BezLLM

Ostatniej nocy miałem #koszmar.

Śniło mi się, że wysłałem łatkę na projekt, i okazało się, że całe ich CI to tylko LLM-y, które dynamicznie generują papkę testów, którym poddają łatki. No i rzecz jasna nie było sposobu, żeby sprawić, że moja łatka przejdzie te testy i będzie "zielona".

#AI #LLM #BezAI #slop

Przeszukiwanie Internetu dawniej: wpisujesz kilka słów kluczowych. Dostajesz listę wyników. Sprawdzasz kolejne wyniki w poszukiwaniu potrzebnej informacji.

Przeszukiwanie Internetu w przyszłości: wpisujesz pytanie pełnym zdaniem. Dostajesz gotową odpowiedź, która może być całkowicie zmyślona. Prosisz o źródła. Dostajesz listę źródeł, które mogą być całkowicie zmyślone. Sprawdzasz poszczególne źródła w poszukiwaniu informacji. Źródła okazują się ewidentną papką wygenerowaną przez duże modele językowe…

#AI #LLM #BezAI #GówniaPochyła