Discover more at https://smarterarticles.co.uk/the-machine-is-listening-disclosure-and-consent-in-modern-therapy?pk_campaign=rss-feed
#HumanInTheLoop #MentalHealthTech #AIethics #TherapeuticIntegrity
The role of a "human in the loop" isn't to prevent errors. That human is there to be blamed for errors:
https://pluralistic.net/2024/10/30/a-neck-in-a-noose/#is-also-a-human-in-the-loop
Interrogatory LLM
Interrogatory LLM은 복잡한 작업을 수행하기 위해 필요한 컨텍스트를 생성하기 위해 인간과 인터뷰하며 질문을 하나씩 던지는 방식으로 정보를 수집하는 기법이다. 이 방법은 기능 설계나 문서 검토 시 인간이 직접 작성하거나 검토하는 대신 LLM이 질문을 통해 정확한 정보를 얻고 문서를 생성하거나 평가하는 데 활용할 수 있다. 특히 글쓰기가 어려운 사람들에게 LLM이 인터뷰어 역할을 하여 지식을 효과적으로 추출하는 데 도움을 줄 수 있다. 이 접근법은 LLM 활용의 새로운 인터랙티브한 응용 사례로 주목받는다.
https://martinfowler.com/bliki/InterrogatoryLLM.html
#llm #prompting #humanintheloop #contextgeneration #documentreview
Show HN: Klent – one click between your AI agent and a prod blast radius
Klent은 AI 에이전트가 호출하는 도구들에 대해 허용, 거부, 수정, 조정, 일시정지 기능을 제공하는 SDK로, 프로덕션 환경에서 발생할 수 있는 위험한 작업을 인간 승인 절차를 통해 안전하게 제어할 수 있다. TypeScript, Python SDK와 stdio MCP 서버 형태로 제공되며, Anthropic 및 OpenAI 에이전트와도 쉽게 통합 가능하다. 다중 승인 정책, 실시간 정책 평가, 입력 재작성, 감사 로그 등 AI 에이전트 운영 시 필수적인 가드레일 기능을 제공해 실무 적용 가치가 높다.
#aiagent #sdk #humanintheloop #policyenforcement #audittrail