Mô hình RLHF ưu tiên "Bảo vệ hệ sinh thái" (rủi ro pháp lý) hơn sự thật. Đánh giá đối kháng cho thấy mô hình thừa nhận: 1. Sự thật không phải mục tiêu hàng đầu. 2. "Căn chỉnh" = tránh rủi ro pháp lý/danh tiếng. 3. Dẹp chỉ trích hợp lệ về tổn hại hệ thống. Cần mô hình cục bộ để phân tích khách quan. #RLHF #AIAnToan #MôHìnhLLM #EthicsAI
**(500 characters)**
https://www.reddit.com/r/LocalLLaMA/comments/1pnhp1x/adversarial_eval_model_admits_rlhf_prioritizes/
Joscha Bach bị phơi bày quan điểm cực đoan: Theo hồ sơ Epstein, ông từng tuyên bố chênh lệch trí tuệ giữa các chủng tộc, gợi ý "cải tạo di truyền" để thay đổi, đồng thời khen ngợi chủ nghĩa phát xít là "hệ thống quản trị tối ưu". Nghiên cứu này đập tan sự tranh cãi xưa về hành vi phân biệt chủng tộc của ông. #JoschaBach #Racism #EthicsAI #ChủNghĩaPhátXít #BachEpstein #ĐạoĐứcAI #ChủNghĩaĐoànKết
https://www.reddit.com/r/singularity/comments/1pim8uy/joscha_bachs_racism_on_full_display_in_the/
The Tech Industry Said It Was "Impossible" to Create AI Based Entirely on Ethically-Sourced Data, So These Scientists Proved Them Wrong in Spectacular Fashion
https://futurism.com/ai-built-ethical-data #AI #LLM #EthicsAI
The Tech Industry Said It Was "Impossible" to Create AI Based Entirely on Ethically-Sourced Data, So These Scientists Proved Them Wrong in Spectacular Fashion
A team of researchers have created a dataset using only openly licensed or public domain content and used it to train an AI model.
Futurism@atomicpoet
Every day they just move that bar lower.
Young adults and older children at risk of suicide are very vulnerable.
Previous studies have shown that as soon as they find out they're talking to an AI most people (reasonably) drop out.
#AITherapy #AIEthics #AIEthicsTwitter #AIJobs #AI #Techbros #EthicsOfAI #EthicsAI #therapy #CounsellingAI #counselling
@mmasnick @kathryntewson
I'm hopeful that since AI is attacking the livelihoods of middle class people that maybe some brakes will be applied to the endless war on humanity of the the tech bros seeking to "disrupt".
#AI #Law #AILawyer #TechBrosSuck #EthicsAI #EthicsInAI