AI helpt in crisis

Het Team Digitale Verkenning van de brandweer zet drones in om tijdens incidenten snel een overzicht van de situatie te verkrijgen. Nu krijgen ze dat overzicht vooral door livebeelden te bekijken. Joris, student HBO-ICT (specialisatie AI) aan Hogeschool Utrecht maakte samen met het Team Digitale Verkenning een proof of concept van een AI-app die de beelden analyseert en zo mensen automatisch kan detecteren. Zo kan de brandweer in de toekomst sneller gericht handelen. Joris: "Je zou denken: AI kan mensen al herkennen. Maar dat geldt niet voor de situatie waarin de brandweerdrone mensen ziet: van bovenaf en van ver weg. Je ziet dan alleen maar een klein ovaaltje - het hoofd, met haaks daarop links en rechts twee ovaaltjes: de schouders. De brandweer heeft veel van dat soort beelden. Daarmee kon ik een AI-model trainen."

Joris werd begeleid door Robbert Heinecke, ervaren brandweerman en innovation consultant, en door Tina Mioch, onderzoeker bij het HU-lectoraat Artificial Intelligence. Tina werkt al jaren samen met crisisdiensten en denkt mee over hoe AI deze tijdens incidenten op een verantwoorde manier kan ondersteunen. In pilots onderzoekt ze samen met professionals wat in de praktijk echt werkt.

Om beter te presteren, moet het model met meer beeldmateriaal getraind worden. Zo kan het mensen nóg beter herkennen. Tina: "Om het model breder inzetbaar te maken, zijn ook beelden uit andere contexten nodig. Nu is het vooral getraind met beelden van mensen in en rond gebouwen. Wil je dit bijvoorbeeld inzetten bij bosbranden in Australië, dan heb je beelden nodig die passen bij die omgeving.” 

Samen met veiligheidsregio’s in Nederland en hulpdiensten in Europa onderzoekt Tina intussen verder verantwoorde samenwerking tussen AI systemen en hulpverleners. Tina: “Het belangrijkste is dat hulpverleners er écht iets aan hebben. Daarom ontwikkelen we nieuwe aanpakken samen met de gebruikers. Zo zorgen we dat de technologie aansluit bij de waarden en bij het werk en dat het de juiste ondersteuning biedt. Tegelijk is het cruciaal dat professionals goed begrijpen wat AI wel en niet kan. Je wilt voorkomen dat er te veel op AI wordt vertrouwd, terwijl de verantwoordelijkheid voor besluiten altijd bij de mens blijft liggen.”