Onderwerping aan technologie

Help mee door dit met je kennissen op je socials te delen!

Er is helaas geen gesproken versie van dit artikel beschikbaar

door Monique Spangenberg

Belangrijke uitvindingen veranderen culturen en menselijke samenlevings-verbanden, soms op een dramatische manier. De tijd dat een marskramer de verhalenverteller was met nieuws uit omliggende dorpen ligt ver achter ons. In de vorige eeuw waarschuwde mediacriticus Neil Postman voor sluipende gevaren die elke oprukkende nieuwe technologie met zich meebrengt. De introductie van de mechanische klok buiten het kloosterleven, het schrift, de drukpers, radio, televisie en de computer zijn voorbeelden van technologieën die sociale structuren en denkprocessen ingrijpend hebben veranderd. Maar als mensen bereid zijn hun cultuur volledig te onderwerpen aan nieuwe technologie zoals Kunstmatige Superintelligentie, dan is dat toch een ander verhaal. Postman is in 2003 overleden, maar op de drempel van dit nieuwe tijdperk nodigt hij mensen uit om stil te staan bij zijn kritische toekomstbeelden.

In 1985, toen de invloed van de televisie op de samenleving en op de diepgang van gevoerde discussies al merkbaar werd, verscheen Postmans boek We Amuseren Ons Dood (Amusing Ourselves to Death). Hij verdedigt de stelling dat de toekomstvisie uit 1984 van George Orwell (Big Brother Is Watching You) een geduchte concurrent heeft: de toekomstvisie uit Brave New World van Aldous Huxley. In die toekomst zullen mensen drugs gebruiken (soma), als klonen hun onderdrukking omarmen en technologie aanbidden die hun eigen denkvermogen buitenspel zet.

Orwell beschrijft een totalitaire samenleving waarin censuur heerst, verzet met geweld wordt neergeslagen, boeken verboden, informatie achtergehouden, waarheid onderdrukt. Maar Huxley voorziet een samenleving waarin een verbod op boeken niet nodig is, omdat niemand die wil lezen. Mensen verliezen zichzelf en elkaar in een zee van betekenisloze informatie. Ze kiezen hun eigen ondergang door zich te laten verdoven, afleiden en vermaken. Ze zullen niet eens meer kunnen begrijpen wat diepgang in discussies en warme menselijke relaties eigenlijk zijn.

In 1992 schreef Neil Postman het boek Technopolie: De Overgave van Cultuur aan Technologie. Hij legt uit dat nieuwe technologie niet alleen de introductie van nieuwe woorden met zich meebrengt, maar ook dat de betekenis van bestaande woorden verandert zonder dat mensen dat beseffen. Informatie, waarheid, de wet, intelligentie, wijsheid, nieuws, vriendschap: de woorden klinken nog steeds hetzelfde, maar krijgen steeds een andere betekenis.

Wie de nieuwe technologie snel professioneel kan gebruiken, vormt een soort elitegroep die onverdiende autoriteit, prestige en beloning vanuit de maatschappij ontvangt, waarschuwt Postman. Bovendien vergeten mensen vaak dat een communicatiemiddel bepaalt hoe mensen naar de wereld kijken en met elkaar omgaan. Een mens met een camera kijkt door zijn lens en ziet de wereld in beelden. Een mens met een computer ziet data, heel veel data.

Elk indringend nieuw medium valt zijn voorgangers aan: het alfabet viel het schrift in pictogrammen aan, de drukpers versloeg de artistiek geïllustreerde manuscripten, de fotografie was een aanval op de schilderkunst en de televisie was een aanval op het geschreven woord. ‘Als media onderling oorlog voeren,’ zegt Postman, ‘dan gaat het om wereldbeelden die met elkaar op de vuist gaan.’ Mensen geloven vaak dat een nieuwe technologie alleen maar iets toevoegt, vervangt of weglaat, en doorzien fundamentele, ingrijpende veranderingen niet. Een directielid van Facebook heeft ooit toegegeven dat Facebook traditionele sociale netwerken compleet heeft vernietigd.

Traditionele culturen gebruiken gereedschap. De waardigheid en integriteit van deze culturen wordt niet aangetast door het gebruik van die handige hulpmiddelen. Maar in een technocratie verandert de aard van een cultuur door de introductie van nieuwe uitvindingen, zoals de mechanische klok, de drukpers, de telescoop. Het leidend wereldbeeld in een technocratie is: kennis is macht. Hoe meer kennis, informatie, data, hoe beter. Banden met tradities, zowel politiek als spiritueel, worden losser of zelfs losgelaten. Samenlevingsverbanden worden meer gemechaniseerd en onpersoonlijker.

Traditionele samenlevingsvormen en technocratische hebben eeuwen naast elkaar bestaan. Ze waren niet altijd met elkaar in gevecht, het was soms wat ongemakkelijk, maar ze hebben elkaar tot nu toe niet volledig uitgesloten. Wat Postman technopolie noemt, is totalitaire technocratie. Hij verwijst hierbij naar de methode van onderwerping van Huxley: oude werkwijzen en groepsverbanden worden niet illegaal, zelfs niet eens impopulair: ze verdwijnen uit het zicht. Ze verliezen hun betekenis. Huxley beschreef de opkomst van de lopende band, de auto-industrie van Henry Ford als een eerste omslagpunt van technocratie naar technopolie: het zielloos en efficiënt beheren van menselijk kapitaal.

Vanuit technocratisch management is het onvoorwaardelijke vertrouwen in de wetenschap ontstaan, dat eerder een dogmatisch geloof of godsdienst is dan een inzicht. Het geloof in vooruitgang, het techno-optimisme, is al lang geleden geboren. Hier zit het onzinnige idee aan vast dat onze problemen worden veroorzaakt door informatiegebrek en dat nog meer informatie onze problemen gaat oplossen. ‘Komen er mensen om van de honger’, vraagt Postman, ‘omdat we niet weten hoe we voedsel moeten verbouwen? Is het aantal echtscheidingen zo groot omdat er sprake is van informatiegebrek?’

Informatie is afval geworden, dat menselijke denkprocessen verstoort. Onsamenhangende informatie-overload werkt verwarrend in plaats van verhelderend. Online clickbait-‘nieuws’ in hapklare brokken is de standaard geworden. In organisaties worden informatiestromen gereguleerd via protocollen die nuance en oog voor detail in menselijke omgangsvormen vernietigen. In een technopolie is efficiëntie het toverwoord: informatie en ideeën die niet bijdragen aan efficiëntie worden genegeerd.

De vraag is of onze samenleving nog in staat is tot het voeren van diepgaande groepsdiscussies, die geen schijndiscussies zijn. Dat wil zeggen dat ze kunnen leiden tot het omverwerpen van deze technopolie in wording. Kunnen we nog voorkomen dat ‘wij gebruiken AI om dit te berekenen’ opeens betekent: ‘AI heeft dit berekend’?

…

Blijf op de hoogte & steun onafhankelijke journalistiek

Lees meer over:
kunstmatige intelligentie Orwell