Kenniswerkplaats Zorgvuldig Data Delen

Lees hier de adviezen over verantwoord AI-gebruik:

Hogeschool Utrecht heeft een overeenkomst met Microsoft over het gebruik van Microsoft Copilot Enterprise Data Protection, waardoor Copilot een veiligere tool is. Dan nog is het essentieel Copilot op de juiste manier te gebruiken.

• Overeenkomst met Microsoft: Bij het gebruik van Copilot Enterprise Data Protection met een HU-account komen de gegevens niet buiten de HU-omgeving. De data (zoals ingevoerde prompts en door Copilot gegenereerde content) worden ook niet gebruikt om het taalmodel te trainen. Dit is een belangrijk voordeel ten opzichte van andere AI-tools, waarbij dit wel gebeurt. Met partijen zoals OpenAI (ChatGPT), Anthropic (Claude) en Google (Gemini), hebben we geen formele overeenkomst waardoor er geen controle is over data in de tools.

• Veiligheid: Het blijft belangrijk om zorgvuldig te bepalen welke gegevens je aan je prompt toevoegt. 

Zo werk je met Copilot Enterprise Data protection

1. Ga naar Copilot.microsoft.com en log in met je HU-account.

2. Deel geen persoonsgegevens, vertrouwelijke gegevens, bedrijfsgegevens of materiaal waar auteursrechten op zitten (originele artikelen, teksten, afbeeldingen etc.).

3. Zeker weten dat je in de goede omgeving werkt: Check of je boven in je scherm het groene schildje ziet en of je je eigen profielfoto rechtsboven ziet. 

Generatieve AI, ofwel Generative Artificial Intelligence, is een technologie die het mogelijk maakt om op een computer nieuwe dingen te maken, zoals tekst, afbeeldingen, video's, of geluiden, op basis van wat ze hebben geleerd van grote hoeveelheden informatie. De meest voorkomende vorm zijn AI-chatbots: AI-programma's die met je kunnen praten, om jouw vragen te beantwoorden. Maar er zijn ook Audio-to-Text AI-tools, Text-to-Audio- Text-to-Image, Text-to-text (vertalen) etc. 

GenAI is gebaseerd op Large Language Models (LLM). Een LLM, of groot taalmodel, is een algoritme dat is getraind op enorme hoeveelheden tekstdata, zoals boeken, artikelen en websites. Het kan patronen in taal herkennen en tekst. 
Volgens Copilot werkt het zo:
1. Jij typt een vraag of opdracht. Die tekst wordt omgezet in tokens (kleine stukjes).
2. Het model kijkt naar de betekenis van jouw tekst, de context, en eventueel eerdere berichten in het gesprek.
3. Het model voorspelt token voor token wat een passend antwoord zou zijn. Dit gebeurt razendsnel en met behulp van miljarden parameters (getrainde waarden in het model).

Houd er rekening mee dat de training van de modellen gebeurt op teksten met zowel fictie, meningen als feiten. In die zin kan het antwoord van het AI-model net zo goed een mening of zelfs flauwekul zijn. Weet ook: Alle chatbots en dus ook Copilot geven altijd antwoord, zelfs als ze het antwoord niet weten. Dit noemen we ‘hallucineren’. Daarom geldt de gouden regel: gebruik nooit informatie waarvan je de bron niet kunt controleren.  

Een meer discriminerende bias kan ook bestaan, wanneer je bijvoorbeeld bij het zoeken van een plaatje van een crimineel, regelmatig een kale man met tatoeages te zien krijgt. Van deze mannen zitten simpelweg meer plaatjes in het model. Dit betekent natuurlijk niet dat alle criminelen deze uiterlijke kenmerken hebben, hoewel het AI-model jou dus wel deze indruk geeft. Dat noemen we discriminatie. AI-modellen worden getraind met content zonder dat daar altijd toestemming voor is gevraagd. Geef jij hier voor toestemming, op bijvoorbeeld je social media platform?

Door over het vraagstuk van zorgvuldige omgang met data en persoonsgegevens in overleg te gaan, en samen onderwijs, voorlichting en training te ontwikkelen, willen we veiligheidsbewuste en bekwame professionals afleveren.

Als je op de hoogte wilt blijven van (aankomende) bijeenkomsten, geef dan je contactgegevens door, door op onderstaande button te klikken:

De Kenniswerkplaats is onderdeel en krijgt financiering van het HU-Veiligheidslab.