Wat zijn de gevolgen van AI?

Wat is de impact van artificiële intelligentie op de toekomst?

De impact van AI op onze toekomst. Ik word er soms onrustig van. Echt. Het is die glijdende schaal, dat gevoel dat we de controle stilletjes uit handen geven.

Mijn neef, vorig jaar oktober in een Utrechts ziekenhuis, kreeg een diagnose van een systeem. Volgens de computer was het iets zeldzaams. Pure paniek. Een week later keek een arts ernaar en zag direct dat het algoritme een simpele ontsteking verwarde met iets ergers. Zonder die mens was het fout gegaan.

En dat is dan 'maar' een medische fout. Denk je eens in wat er gebeurt als zo'n systeem beslist over een rechtszaak. Of wie wel of geen lening krijgt, puur op basis van data die bevooroordeeld is. We bouwen een onzichtbare rechter die ons niet kent.

En dan die autonome wapens. Ik las er een artikel over, hoe gezichtsherkenning wordt gekoppeld aan drones. Het idee alleen al. Een machine die over leven en dood beslist zonder een greintje menselijk besef. Dat is geen toekomst, dat is een nachtmerrie.

Voor mij is het simpel. AI moet een gereedschap blijven, een co-piloot. Zodra de mens niet meer achter het stuur zit, en de machine autonoom beslissingen neemt met grote gevolgen, dan zijn we de weg kwijt. Compleet.

Wat is een risico van artificiële intelligentie? Een risico is afhankelijkheid en verlies van menselijke controle, wat kan leiden tot ongewenste gevolgen zoals discriminatie of medische fouten.

Waarom is menselijke controle op AI belangrijk? Menselijke controle is belangrijk om onvoorziene en schadelijke gevolgen, zoals verkeerde veroordelingen of acties van autonome systemen, te voorkomen.