@alpha_mouse а можна тэзісна? Чаму пабудова прасунутага ШІ прывядзе абавязкова да знішчэння чалавецтва?

@spectral @alpha_mouse можна напрыклад у чатагпт запытаць - ен мне ўсе падрабязна растлумачыў.

@ijontichy @spectral Так, пакуль яшчэ можна верыць адказам ШІ пра пагрозу ШІ.
Мой варыянт:
1. "Інтэлект" як уменьне дасягаць мэтаў, не карэлюе з чалавечымі каштоўнасьцямі.
2. Мы ствараем усё больш інтэлектуальныя сыстэмы, але маем толькі магічнае разуменьне як яны працуюць, і ня маем механізмаў што гарантавалі б захаваньне каштоўнасьцяў.
Аналёгія, як у казках калі джын выконвае загад, але ня так як хацелі. Не са зла, а бо колькасьць спосабаў зрабіць як літаральна сказана неімаверна большая.

@alpha_mouse @spectral у сучасных "інтэллектуальных" сістэмах няма нічога магічнага. Магія пачынаецца, калі ідуць размовы пра AGI - вось там якой толькі эзатэрыкі не прыдумляюць, каб уразіць інвестараў. Магчымасці тагож чатагп канешне ўражваюць, але я нешта не веру, што гэта ў наступнай ітэрацыі ператворыцца ў сапраўдны інтэллект, а не ў генерылку тэкстаў.