'AI-nalfabetisme'
'Ainalfabetisme' is een term die ik voor het eerst las in het Leidsch Dagblad, onze plaatselijke krant. Een leuke vondst, dat woord. Ik las met belangstelling het commentaar over dreigende maatschappelijke tweedeling door AI-gebruik (of niet) door columnist Peter Schat in LD van 12 februari. En tevens een stuk over de Leidse professor Schmidli, die met reden het gebruik van AI in de collegezaal verbiedt.
Maatschappelijke tweedeling? Ik ben verbaasd. Alsof je direct bent afgeserveerd als tweederangs burger wanneer je geen AI wilt gebruiken. Laat me een paar dingen uitleggen.
Als auteur gebruik ik behalve boeken ook intensief het internet voor studie. Internet is daarvoor een goed hulpmiddel, maar alleen als je het slim gebruikt. Het web is nog steeds niet veilig, en je moet op je tellen passen met de informatie die je er vindt. Het is een onvolwassen medium dat naast een bron van (soms) zinvolle informatie vooral het speelveld lijkt van schurken, die de vele mazen in de veiligheid weten te ontdekken.
Op hetzelfde onvolwassen Internet kwamen de laatste twee decennia de sociale media op, de apps en de verslavende scrollplatforms, die de wereld alweer een stuk onprettiger hebben gemaakt en vooral leiden tot veel persoonlijk leed, desinformatie en uitbuiting. Ik gebruik deze media met nog meer voorzichtigheid dan het internet waar ze op zijn gebaseerd.
Onvolwassen techniek
Ik vergelijk het internet en alle bijbehorende ongewenste uitwassen vaak met andere technologische ontwikkelingen uit het verleden, zoals de spoorwegen en de luchtvaart. Op spoorwegen werd al rond 1850 soms met 90 tot 100 km/u gereden zonder goede remsystemen of signalering. Het spoorwegnet in Engeland leek wel op het wilde westen: er was een 'spoorwegmanie' waarin schurkachtige investeerders alles op alles zetten om snel rijk te worden van de nieuwe technologie (er is nog niets veranderd dus). Na een paar verschrikkelijke ongelukken kwam rond 1870 geleidelijk regulerende wetgeving op gang, zoals een aantal 'Regulation of Railways Acts'.
In de luchtvaart was het in de jaren '20 en '30 van de 20e eeuw ook een cowboytoestand, met vliegcircussen die geleidelijk overgingen in verkeersvliegerij. Het was een onveilig bedrijf, gekenmerkt door vele ernstige ongelukken. Lees er de boeken maar op na van Nevil Shute, een vliegtuigingenieur die de wantoestanden van honderd jaar geleden prachtig beschrijft. Pas na de 2e Wereldoorlog kwamen verbeteringen op gang, zoals certificering van alle onderdelen van een vliegtuig, betere communicatie- en navigatiesystemen.
We voeden een monster
En nu zien we de opkomst van de AI-manie, terwijl het onderliggende systeem nog steeds onvolwassen is. Een machine, die het antwoord zou moeten geven op al onze vragen zonder een enkele beveiliging tegen desinformatie of onevenwichtigheid. Ik zie AI en de komst van de (a)sociale media als een stapeling van onbeheersbare ontwikkelingen, en energievreters op de koop toe. Op een enkel vraagje aan ChatGPT schijn je een dag lang een lamp te kunnen laten branden.
Een anekdote: ik vertaal mijn manuscripten zelf in het Engels en kreeg onlangs de vraag waarom ik dat niet deed met AI. Ik doe dat niet omdat dan mijn eigen leerproces stilstaat en mijn teksten illegaal worden gebruikt om hetzelfde monster weer te voeden. Dat zal inmiddels toch al wel gebeurd zijn, omdat ik veel publiceer via internet, wat nooit aan het sleepnet van de techbro's kan zijn ontsnapt. Zie onder.
Ik vraag mij af of alle onbegrensde technologie niet eerst moet worden gereguleerd, voordat we er zo nodig collectief mee aan de slag moeten. Zoals professor Schmidli zegt in zijn interview in het LD: er zitten grote bedrijven achter, niet om de wereld beter te maken, maar alleen om over onze rug heen winst te maken. Om maar niet te spreken van autonome oorlogswapens die je in Oekraïne en Gaza afknallen op basis van een met AI gemaakte hitlijst.
Dus laten we vooral gezamenlijk doorhollen in deze race naar de afgrond. De uitkleedsoftware is al uitgevonden, en het volgende speelgoed, de quantumcomputer, staat volgend jaar klaar om al je moeizaam onthouden wachtwoorden te kraken.
Ik denk maar liever niet aan het monster dat gaat ontstaan uit een slippertje van AI met een quantumcomputer.
De Auteursbond heeft een campagne gelanceerd tegen het 'jatwerk' van de Large Language Models zoals ChatGPT. De onderstaande video is daar onderdeel van. Een aanrader.