Artur CoelhoO artigo olha para o papel dos sistemas automatizados de decisão de alvos, mas na verdade sublinha um dos problemas mais agudos, e menos discutidos, do uso de sistemas automáticos - a desresponsabilização institucional que permitem. Com eles, a culpa morre sozinha. O problema passa a ser do algoritmo, do sistema. Mas na verdade não o é, nunca foi. Os problemas residem sempre nas cadeias de decisão humana.
Se as redes sociais se tornaram um charco infecto, isso não é culpa dos "algoritmos", mas sim das decisões dos responsáveis que orientaram o seu desenvolvimento. Se o sistema de atendimento automatizado em caso de emergência funciona mal, isso não é culpa do algoritmo, mas sim de quem decide, deliberadamente, implementar sistemas desenhados para acima de tudo, afastar utentes.
Dizer "a culpa é do computador", como naquele sketch clássico do Little Britain, o "computer says no", é a maior das desculpas esfarrapadas. O sistema é um reflexo das decisões tomadas, e dá imenso jeito a muitos decisores usarem esta desculpa para saírem impunes.
Jorge Candeias@arturcoelho Absoluta razão.
Marco@arturcoelho o clássico da conveniência da desresponsabilização.