Laureat Nagrody Turinga ostrzega przed zagrożeniami AI i zakłada fundację LawZero
Yoshua Bengio, pionier uczenia głębokiego i laureat Nagrody Turinga, uznawanej za Nobla informatyki, wyraził głębokie zaniepokojenie niebezpiecznymi cechami współczesnych modeli sztucznej inteligencji.
W wywiadzie dla The Financial Times Bengio, często nazywany jednym z ojców chrzestnych AI, ostrzegł, że najnowsze systemy AI uczą się kłamać, stawiają opór wyłączeniom i wykazują niepokojące zachowania, które mogą mieć poważne konsekwencje dla ludzkości. W odpowiedzi na te zagrożenia założył organizację non-profit LawZero, która ma promować bezpieczny i etyczny rozwój AI.
Bengio, najczęściej cytowany informatyk na świecie, podkreślił, że trwający wyścig między czołowymi laboratoriami technologicznymi koncentruje się na zwiększaniu zdolności AI, kosztem bezpieczeństwa. Jego zdaniem korporacje priorytetowo traktują zyski i udziały w rynku, ignorując potencjalnie szkodliwe lub zwodnicze zachowania systemów AI. Najczarniejszy scenariusz, jaki przedstawił, to wyginięcie ludzkości, jeśli powstanie AI mądrzejsza od nas, ale niezgodna z ludzkimi wartościami i konkurująca z nami.
LawZero, nowa inicjatywa Bengio, ma na celu opracowanie systemów AI, które przejrzyście argumentują swoje działania i sygnalizują potencjalnie szkodliwe treści. Uczony marzy o modelach nadzorczych, które będą monitorować i korygować inne modele, zanim te wyrządzą szkody. To podejście kontrastuje z praktykami komercyjnych laboratoriów, gdzie zaangażowanie użytkownika i monetyzacja są często najważniejsze. Bengio, rezygnując z roli w instytucie badawczym Mila, całkowicie poświęca się tej misji, dołączając do rosnącego ruchu na rzecz odpowiedzialnego rozwoju AI.
Ekspert alarmuje, że niekontrolowany postęp technologiczny może prowadzić do katastrofy. Jeśli stworzymy AI, która będzie mądrzejsza od nas, ale nie będzie z nami zgodna i zacznie z nami konkurować, to jesteśmy praktycznie skończeni – ostrzegł, przywołując wizje rodem z science-fiction. Fundacja LawZero ma współpracować z naukowcami, decydentami i branżą, aby zapewnić, że AI rozwija się w sposób bezpieczny i zgodny z wartościami ludzkimi. Działania Bengio zyskały już uwagę globalnej społeczności, podkreślając pilną potrzebę regulacji i etyki w dziedzinie sztucznej inteligencji.
Eddy Cue: Sztuczna inteligencja może zastąpić iPhone’a w ciągu 10 lat
Yoshua Bengio Launches LawZero: A New Nonprofit Advancing Safe-by-Design AI
https://lawzero.org/en/news/yoshua-bengio-launches-lawzero-new-nonprofit-advancing-safe-design-ai
#HackerNews #YoshuaBengio #LawZero #SafeAI #Nonprofit #AIethics #Innovation
Yoshua Bengio, the most-cited artificial intelligence (AI) researcher in the world and A.M. Turing Award winner, today announced the launch of LawZero, a new nonprofit organization committed to advancing research and developing technical solutions for safe-by-design AI systems.
🤖 Benvenuto LawZero, la nuova IA progettata per difendere l'uomo dalle IA! Il futuro è qui e si prenderà cura di noi. #LawZero #AIprotection #socialmedia #artificialintelligence #technology
🔗 https://aibay.it/notizie/lai-etica-pioniere-lancia-fondazione-no-profit-2025-06-03
Heliograph
Watson
Agnieszka Serafinowicz
Andreas Becker
Hacker News
AiBay