Post-hoc explanation of AI predictions in wildfire risk mapping through an interactive web-based GeoXAI system
This case study presents an innovative approach for explaining wildfire susceptibility through a web-based Geospatial eXplainable Artificial Intelligence (GeoXAI) system. By addressing limitations in traditional GeoXAI tools, such as the lack of geographical context for model predictions and local explanation, this system integrates state-of-the-art XAI methods with open-source geospatial technologies. Applied to the wildfire-prone regions of Berlin and Brandenburg, Germany, the system combines environmental, topographic, and meteorological features derived from high-resolution geospatial data for training a Random Forest (RF) model. The web-based GeoXAI system enables interactive exploration of the model output and its features, allowing users to visualize wildfire susceptibility, examine feature contributions, and correlate predictions with spatial patterns through post-hoc interpretability. By employing post-hoc explanation methods like SHAP, the system offers clear insights into model predictions by analyzing feature contributions after training, which helps users better understand AI-driven outcomes. Designed with a user-centered approach, the platform promotes trust and usability through transparent predictions, interactive geovisualizations, and local explanations, allowing users to navigate spatial data intuitively by exploring overviews, focusing on specific regions, and accessing detailed insights on demand. This work highlights the potential of combining GeoXAI with machine learning to improve decision-making in wildfire prevention and management.
Diese Fallstudie stellt einen innovativen Ansatz zur Erklärung der Anfälligkeit für Waldbrände durch ein webbasiertes System für Geospatial eXplainable Artificial Intelligence (GeoXAI) vor. Durch die Beseitigung von Einschränkungen herkömmlicher GeoXAI-Tools, wie dem Mangel an geografischem Kontext für Modellvorhersagen und lokalen Erklärungen, integriert dieses System modernste XAI-Methoden mit Open-Source-Geoinformationstechnologien. Angewandt auf die waldbrandgefährdeten Regionen Berlin und Brandenburg kombiniert das System Umwelt-, topografische und meteorologische Merkmale, die aus hochauflösenden Geodaten abgeleitet wurden, zur Schulung eines Random-Forest-(RF)-Modells. Das webbasierte GeoXAI-System ermöglicht eine interaktive Erkundung der Modellausgaben und ihrer Merkmale, sodass Benutzer die Waldbrandanfälligkeit visualisieren, Beitragswerte einzelner Merkmale untersuchen und Vorhersagen mithilfe nachträglicher Interpretierbarkeit mit räumlichen Mustern in Beziehung setzen können. Durch den Einsatz nachträglicher Erklärmethoden wie SHAP liefert das System klare Einblicke in Modellvorhersagen, indem es die Merkmalsbeiträge nach dem Training analysiert und so das Verständnis KI-gestützter Ergebnisse verbessert. Die Plattform wurde nutzerzentriert entwickelt und fördert Vertrauen sowie Benutzerfreundlichkeit durch transparente Vorhersagen, interaktive Geovisualisierungen und lokale Erklärungen. Dadurch können Anwender räumliche Daten intuitiv erkunden, indem sie Überblicksdarstellungen betrachten, sich auf bestimmte Regionen fokussieren und bei Bedarf detaillierte Informationen abrufen. Diese Arbeit unterstreicht das Potenzial der Kombination von GeoXAI und maschinellem Lernen zur Verbesserung der Entscheidungsfindung in der Waldbrandprävention und -bekämpfung.
Preview
Cite
Access Statistic
Rights
Use and reproduction:
