För att kunna förstå fördelar och nackdelar med AI måste vi först förstå vår egen intelligens, åtminstone på en grundläggande nivå.
Intelligens kan i en generell definition beskrivas som förmågan att uppfatta, tolka, besluta och reagera på omvärlden.
Vi uppfattar via våra sinnen, t ex syn, hörsel, känsel, smak etc.
Tolkningen av det vi uppfattar görs av vår hjärna. Exakt hur detta sker i vår hjärna vet vi inte i detalj men tolkning av t ex bild och ljud är något som AI börjar bli förhållandevis bra på. En människa som ser, hör och känner lukten av en hund, vet vad det innebär och har även med största sannolikhet erfarenheter av en hund. Hunden framkallar gissningsvis känslor hos människan. Känslor som beror på tidigare erfarenheter och/eller kunskap/förväntningar om hundar.
AI däremot kan utifrån en bild på en hund utifrån sin ”katalog” av bilder komma till wikipedia-slutsatsen att bilden med största sannolikhet föreställer en hund. Eventuella andra slutsatser om hundar kan bara bestå av vad AI har fått sig beskrivet om hundar. Den beskrivningen är i sin tur färgad av de människor som beskrivningen kommer ifrån.
Jag är inte expert på AI men det som är viktigt i detta sammanhang är att intelligens, vare sig den är mänsklig eller artificiell, handlar i mångt och mycket om mönstertolkning. Det betyder att en ”intelligens” kan se mönster som kanske inte är relevant och att intelligens inte på något sätt garanterar att man har ”rätt”.