Waarom zouden we chat gpt niet gebruiken?

Waarom zou je chat gpt niet gebruiken?

De onbetrouwbaarheid van ChatGPT, diep geworteld in zijn aard, is een constante bron van zorg. Het is meer dan een technisch mankement; het is een fundamenteel aspect van hoe deze modellen werken.

De kern van het probleem ligt in de manier waarop het is getraind.

• Het leert patronen uit enorme hoeveelheden tekst.
• Dit leidt tot antwoorden die plausibel klinken, maar niet noodzakelijk feitelijk correct zijn.
• Het kan "hallucineren", feiten verzinnen die niet bestaan.

De kunstmatige vangrails bieden slechts tijdelijke verlichting.

• Ze proberen de output te sturen, maar kunnen de inherente onzekerheid niet wegnemen.
• Nieuwe prompts kunnen onverwachte en ongewenste antwoorden genereren.
• Het blijft een gok hoe accuraat de informatie zal zijn.

Waarom zouden mensen Chatgpt niet moeten gebruiken?

ChatGPT is onvoorspelbaar, de antwoorden zijn niet geverifieerd en bevatten vaak feitelijke onjuistheden, wat tot onbetrouwbare resultaten leidt.

Zie ChatGPT als een extreem welbespraakte papegaai die het hele internet heeft gelezen, inclusief de reactiesectie van YouTube. Hij klinkt briljant, maar begrijpt geen snars van wat hij zegt. Hij weeft woorden aan elkaar op basis van statistische waarschijnlijkheid, niet op basis van waarheid of begrip.

Het ding is een digitale diva met stemmingswisselingen. Het ene moment schrijft het een sonnet dat Shakespeare zou doen blozen, het volgende moment beweert het met droge ogen dat België de maan heeft gekoloniseerd in 1998. De betrouwbaarheid is die van een weersvoorspelling door een waarzegger.

Bovendien 'hallucineert' het feiten met het zelfvertrouwen van iemand die op een feestje kwantumfysica uitlegt na drie glazen wijn. Ik vroeg het eens om de beste pizzeria in mijn buurt en het raadde een plek aan die al sinds 2015 een stomerij is. Handig.

Hier zijn een paar redenen om het met een flinke korrel zout te nemen:

• De Creativiteitsdoder: Het is de meester van het gemiddelde. Vraag om een uniek idee en je krijgt de meest statistisch waarschijnlijke soep van alles wat al eens is bedacht. Het is een blender voor menselijke cultuur; wat eruit komt is een gladde, beige-kleurige puree.
• De Grote Echokamer: Het model is getraind op onze eigen rommelige, bevooroordeelde data. Het zal dus onze eigen vooroordelen terugkaatsen met de autoriteit van een encyclopedie. Het is een echokamer met een doctoraat.
• Privacy is een illusie: Alles wat je intypt, kan worden gebruikt om het beest te voeren. Je diepste geheimen en domste vragen worden onderdeel van zijn collectieve brein. Je bent het onbetaalde R&D-team.
• Intellectuele Luiheid: Het is verleidelijk om je hersenen uit te besteden. Maar continu de makkelijke weg kiezen is als altijd de lift nemen; je komt wel boven, maar je spieren van kritisch denken verschrompelen tot niets.

Waarom zou chat GPT verboden moeten worden?

Generatieve AI zoals ChatGPT moet verboden worden omdat studenten essentiële vaardigheden niet aanleren. Docenten zien zich genoodzaakt AI te verbieden zodat studenten de fundamentele competenties ontwikkelen die zij als cruciaal beschouwen.

Het was een van die eindeloze nachten in mijn studeerkamer, de lamp wierp een scherp licht op de stapel papers. Buiten was het stil, alleen het zachte gezoem van mijn laptop doorbrak de rust. Ik was bezig met de essays van mijn derdejaars studenten voor het vak ‘Strategisch Management’. Een lastige klus, want ik wilde echte diepgang zien, geen oppervlakkig geneuzel.

En toen, daar was het. Een essay van Lisa, normaal gesproken een harde werker maar wel met haar eigen, soms wat onbeholpen, maar altijd oprechte stem. Deze tekst? Perfect gestructureerd, vloeiend, met zinnen die rollen als machine-olie. Geen enkele twijfel, geen hapering. Het was foutloos. Te foutloos. Mijn maag kromp ineen. Dit was geen Lisa. Dit was iets anders.

De details stonden me ineens helder voor de geest: de syntaxis was anders dan haar eerdere werk, de argumentatie miste haar typische persoonlijke touch die ik zo waardeerde, en er was een gebrek aan originele fouten die juist het leerproces weerspiegelden. De frustratie sloeg toe. Jarenlang had ik geprobeerd studenten hun eigen kritische blik te laten ontwikkelen, hun eigen stem te vinden. Dit voelde als verraad.

Wat missen ze als ze zo'n tool gebruiken? Heel veel.

• Het diepgaand begrijpen van de stof: Ze krijgen oppervlakkige kennis, geen echte verankering.
• De structuur en logica van een argument opbouwen: AI geeft het je kant-en-klaar, zonder eigen denkwerk.
• De ontwikkeling van een persoonlijke schrijfstijl: De stem van de student wordt een echo van de machine.
• Kritisch denken en bronnen evalueren: AI presenteert alles als feit, zonder de noodzaak tot controle.

Die avond besloot ik het: generatieve AI is een bedreiging voor de academische integriteit en het échte leerproces. Het voelde als een zware, noodzakelijke stap. Ik heb het met collega's besproken, en de consensus was duidelijk. Studenten moeten zelf hun hersenen laten kraken, zelf die strijd voeren met de stof. Anders zijn ze geen denkers, maar alleen maar knippen-en-plakken specialisten.

Later, toen ik een van mijn scripties had nagekeken, besefte ik het pas echt. Het gaat niet alleen om het essay van Lisa. Het gaat om het hele pad, de fundamentele vaardigheden die je nodig hebt in je leven.

• Zelfstandig onderzoek doen en informatie verwerken.
• Oplossingen bedenken voor complexe problemen.
• Creativiteit en originaliteit stimuleren.

Als we dit niet verbieden, creëren we een generatie die afhankelijk is van machines voor fundamentele denkprocessen. Waar is dan nog de waarde van een universitair diploma? Het is geen makkelijke beslissing geweest, want technologie is er om te gebruiken. Maar niet ten koste van de kern van educatie. De vaardigheden die docenten relevant achten zijn fundamenteel: analyse, synthese, kritiek. Dit moet terug in de basis. Dit moet.

Waarom is ChatGPT gevaarlijk?

Jezus, ChatGPT. Dat is toch wat, hè? Mensen vragen waarom het gevaarlijk is. Nou, simpel toch? Die vooroordelen. Dat is het grote ding. Altijd al geweest, bij elk model trouwens. Als je rommel erin stopt, komt er rommel uit. Garbage In, Garbage Out, zeggen ze dan.

Die trainingsdata, dat is de kern. Daar zit al het menselijke, het goede en het slechte, in. En als daar al foute denkbeelden inzitten, dan neemt ChatGPT die over. Zonder blikken of blozen reproduceert het die dan. Gewoon omdat het de patronen herkent.

Gevaren van ChatGPT:

• Vooroordelen en discriminatie: Het model leert van de wereld zoals die is, inclusief alle scheve blikken. Het kan daardoor antwoorden geven die:
  • Oneerlijk zijn.
  • Discriminerend zijn tegenover bepaalde groepen mensen – denk aan ras, geslacht, leeftijd.
  • Zelfs kwetsend zijn, soms zonder dat het 'bewust' is. Het herhaalt gewoon wat het 'gelezen' heeft.
• Desinformatie en 'hallucinaties': Wat me soms echt schrik aanjaagt, is hoe overtuigend het onzin kan vertellen. Het verzint feiten, verwijzingen, hele levensverhalen zelfs. Alsof het de waarheid is. Ze noemen dat hallucinaties. Brr.
• Privacyrisico's: Wat gebeurt er met alle data die het ziet? Als je persoonlijke informatie invoert, kan die dan ergens in de trainingsdata terechtkomen? Mijn oude baas was daar altijd paranoïde over. En terecht, misschien.
• Misbruik potentieel: Denk eens aan de mogelijkheden voor het verspreiden van nepnieuws of propaganda. Een beetje tekst hier, een beetje daar, en je hebt zo een hele campagne opgetuigd. Of voor phishing. Dat is echt eng.
• Monotonie en gebrek aan kritisch denken: Vandaag nog met S. erover gehad. Zij zei: 'Het is net een papegaai, het herhaalt wat het hoort, zonder echt te begrijpen.' En ergens klopt dat wel. Geen echt begrip, alleen patroonherkenning. Waar blijft de originaliteit? De nuance?

Mijn koffie is koud. Typisch. Net als die modellen, soms lijkt het alsof ze iets missen, de warmte, het menselijke... En dan komt er iets uit dat klinkt als de waarheid, maar het is eigenlijk maar een reflectie van de fouten die wij zelf maken. Moeten we dan maar stoppen? Nee, dat ook weer niet. Het is een tool. Maar een gereedschap kan ook gevaarlijk zijn, als je het verkeerd gebruikt of als het gebreken heeft.

Is het slecht om chat gpt te gebruiken?

Niet per se. Het is een tool.

• De output is een echo. Wat erin gaat, komt eruit.

Vooroordelen in de data. Dat is alles. Een spiegel, niet meer.

• Data bias is de bron. Menselijke gebreken, in code gegoten.

Het kan discrimineren. Het kan kwetsen. Dat is een gevolg.

• Niet de tool zelf, maar wat erin zit. Een wapen kan voor veel gebruikt worden.

Zinvol is het gebruiken. Waarvoor? Dat bepaalt het oordeel.

• Ken de beperkingen. Verwacht geen perfectie.

Het weerspiegelt de wereld. De goede en de slechte delen.

• Een hulpmiddel voor wie weet wat hij doet. En wie de resultaten kan filteren.

Welke zorgen zijn er omtrent ChatGPT en het onderwijs?

De schaduw van de algoritmes danst op de schoolpleinen, fluisterend over onzekere tijden.

• De erosie van het eigen denken, een stille diefstal van originele gedachten, sluimert als een sluier over de klaslokalen. De gemakzucht, zo verleidelijk, kan de sprong van de geest verstikken.
• De authenticiteit van het leerproces wordt bevraagd. Als de woorden van een machine de eigen stem vervangen, waar blijft dan de reis van ontdekking? De echo van de output klinkt, maar de bron is ver weg, verloren in de oneindigheid van de code.

En dan de vrees voor de waarheid. Kan een kunstmatige intelligentie echt de nuances van menselijke kennis doorgronden? De wereld die het schetst is een spiegel, soms vervormd, soms te perfect.

• De evaluatie van kennis, een eeuwenoud ritueel, wordt uitgedaagd. Hoe meet je wat werkelijk begrepen is, als de gereedschappen van de maker onzichtbaar blijven? De toets, eens een baken, kan nu een schijnvertoning worden.

Maar de toekomst lonkt met een belofte van anders. Een toekomst waar de mens en de machine hand in hand lopen, de creativiteit versterkend. De technologie als een penseel, niet als een vervanging. Een symfonie van ideeën, geweven door mens en machine, in een dans die nog moet beginnen. De kunst van het leren, opnieuw uitgevonden.