Mastodawn

The Oxford Research Encyclopedia of Economics & Finance has just published my article on explainability and interpretability in AI & ML:

https://academic.oup.com/edited-volume/61801/chapter-abstract/565744399?redirectedFrom=fulltext

Those of you in Tokyo may have seen me present versions of this.

Comments very welcome!

#xai #iml #explainableAI #interpretablML

techspaghetti Jun 9

AI is driving critical decisions, but complex models are often black boxes. In sectors like healthcare & finance, trust is the ultimate metric. How do we explain these decisions? We built an interactive Streamlit app explaining a demo heart disease predictions using XGBoost, ELI5, and SHAP.

Read how we use Permutation Importance, PDP, and SHAP values to build transparent, audit-ready AI.

#ExplainableAI #XAI #DataScience #AI #Trust #Explainability #ResponsibleAI

http://tech-spaghetti.com/2026/06/09/demystifying-the-black-box-a-hands-on-guide-to-explainable-ai-xai/

Demystifying the Black Box: A Hands-On Guide to Explainable AI (XAI)

As artificial intelligence scales across industries, machine learning models are taking on increasingly high-stakes responsibilities. From credit scoring and fraud detection to clinical decision su…

Tech Spaghetti

KIT-Fakultät für Informatik Jun 5

Die Forschungsgruppe von Tenure-Track-Professor Benjamin Schäfer hat eine Methode entwickelt, um KI-gestützte Vorhersagen für die Stromversorgung transparenter zu machen und deren Einsatz vertrauenswürdig zu machen.

https://www.informatik.kit.edu/11147_15284.php

#KITInformatik #ExplainableAI #Hochspannung

Harald Klinke Jun 3

Was bedeutet eigentlich „Ähnlichkeit“ in KI-gestützter Bildsuche?
Dieser Beitrag zeigt am Beispiel kunsthistorischer Bilddaten, dass Suchergebnisse nicht nur von Algorithmen, sondern auch von Trainingsdaten, kulturellen Vorannahmen und den verwendeten Modellen geprägt werden.
Explainable AI hilft dabei, diese Prozesse sichtbar und kritisch reflektierbar zu machen.
#DigitalHumanities #ExplainableAI #Kunstgeschichte
https://zfdg.de/sb008_003

Ähnlichkeiten erklären. Explainable Artificial Intelligence für die multimodale Bildsuche und ‑analyse in der Kunstgeschichte | ZfdG - Zeitschrift für digitale Geisteswissenschaften

Der Beitrag untersucht das Konzept der Ähnlichkeit im Rahmen der Explainable Artificial Intelligence (XAI) in Modellen des maschinellen Lernens für die kunsthistorische Bildsuche und -analyse.

RC Trustworthy Data Science Jun 3

🧠 How do neural networks actually learn?
Dr. Linara Adilova presented RC Trust research at the BIFOLD & ELLIS workshop AI to Accelerate Scientific Understanding in Berlin.
Her poster explored how information theory and geometry can help explain latent representations and generalization in deep learning.🔍🤖
A strong connection between trustworthy AI, explainability, and scientific discovery. 🤝
https://rc-trust.ai/news/news-detail/understanding-how-neural-networks-learn
#TrustworthyAI #DeepLearning #ExplainableAI #ScientificDiscovery #MachineLearning

Show thread

ZfdG May 21

Julian Stalter, Matthias Springstein und Stefanie Schneider untersuchen in ihrem Beitrag "Ähnlichkeiten erklären" das Konzept der Ähnlichkeit im Rahmen der Explainable Artificial Intelligence (XAI) in Modellen des maschinellen Lernens für die kunsthistorische Bildsuche und -analyse.

Lesen Sie mehr dazu hier: https://doi.org/10.17175/sb008_003

@DHd @MWWForschung #Aehnlichkeit #KI #Kunstgeschichte #explainableAI

Ähnlichkeiten erklären. Explainable Artificial Intelligence für die multimodale Bildsuche und ‑analyse in der Kunstgeschichte | ZfdG - Zeitschrift für digitale Geisteswissenschaften

Der Beitrag untersucht das Konzept der Ähnlichkeit im Rahmen der Explainable Artificial Intelligence (XAI) in Modellen des maschinellen Lernens für die kunsthistorische Bildsuche und -analyse.

Philo Sophies May 21

🧠 “Is #Intelligence a mathematical structure?”🔢 – #Zoomposium with #GittaKutyniok

The key to the next generation of intelligent systems – On computability, limitations, and the future of AI

📎https://philosophies.de/index.php/2026/04/24/intelligenz-mathe-struktur/

🎥https://youtu.be/SbLf8oBAv90

#ArtificialIntelligence #AI #Mathematics #NeuralNetworks #DeepLearning #MachineLearning #Intelligence #CognitiveScience #MathematicsAndAI #AIResearch #ExplainableAI #Computability #NeuromorphicComputing #Science

Philo Sophies May 21

🧠 „Ist #Intelligenz eine mathematische Struktur?“🔢– #Zoomposium mit #GittaKutyniok

Der Schlüssel zur nächsten Generation intelligenter Systeme – Über Berechenbarkeit, Grenzen und die Zukunft der KI

📎https://philosophies.de/index.php/2026/04/24/intelligenz-mathe-struktur/

🎥https://youtu.be/SbLf8oBAv90

#KünstlicheIntelligenz #KI #ArtificialIntelligence #Mathematik #NeuronaleNetze #DeepLearning #MachineLearning #Intelligenz #CognitiveScience #MathematikUndKI #AIResearch #ExplainableAI #Computability #NeuromorphicComputing #Wissenschaft

Philo Sophies May 15

🧠 “Is #Intelligence a mathematical structure?”🔢 – #Zoomposium with #GittaKutyniok

The key to the next generation of intelligent systems – On computability, limitations, and the future of AI

📎https://philosophies.de/index.php/2026/04/24/intelligenz-mathe-struktur/

🎥https://youtu.be/SbLf8oBAv90

Philo Sophies May 15

🧠 „Ist #Intelligenz eine mathematische Struktur?“🔢– #Zoomposium mit #GittaKutyniok

Der Schlüssel zur nächsten Generation intelligenter Systeme – Über Berechenbarkeit, Grenzen und die Zukunft der KI

📎https://philosophies.de/index.php/2026/04/24/intelligenz-mathe-struktur/

🎥https://youtu.be/SbLf8oBAv90