Kontakt
Login
UNITEDINTERIM Blog
AI-Halluzination und professionelle Transformation
Generell lässt sich sagen: Je höher die Skalierbarkeit und die Möglichkeit der Datenerfassung, desto höher ist die Substitution durch KI.
Im Folgenden wollen wir in diesem Beitrag verschiedene Aspekte der KI-Halluzination auf Basis unserer Projekterfahrung diskutieren. Alle genannten Aspekte haben wir sowohl mit unseren Kunden als auch intern bei iMB imbsolutions imanagementbrazil und iMBdigitalGallery wiederholt diskutiert. Wenn Sie uns auf den verschiedenen Social-Media-Kanälen folgen, werden Sie ähnliche Diskussionsbeiträge fragmentarisch immer wieder finden.
Die in unserem Blog Beitrag gesuchten und diskutierten Erfahrungen und Antworten sind:
Was ist KI-Halluzination?
Was sind die Gefahren der KI-Halluzination?
Ist es möglich, KI-Halluzination positiv zu nutzen?
Was kann man tun, um KI-Halluzination zu vermeiden?
Kann die Fähigkeit des kontextuellen Denkens des KI-Nutzers KI-Halluzinationen vermeiden?
Welches sind die wichtigen Punkte, um ein kontextuelles Denken zu entwickeln?
Oft stellt sich die Frage, ob wir mit KI bald ganz neue Berufe sehen werden. Was bedeutet das?
Beruflicher Wandel durch KI. Was beobachten wir derzeit auf dem brasilianischen und mexikanischen Arbeitsmarkt in Bezug auf KI und ML? Was bedeutet das für BPO und Outsourcing?
Auch wenn Brasilien und Mexiko scheinbar weit weg sind und in die Gruppe der Emerging Marktes gehören, sollte man die Erfahrungen genau betrachten. Denn gerade Brasilien ist eine sehr junge Nation: Das Durchschnittsalter beträgt 30 Jahre. Das führt dazu, dass weniger Berührungsängste mit Blick auf neue Technologien vorhanden sind. Es wird einfach ausprobiert, im positiven Sinne gespielt, umgebaut, angepasst. Und das alles in hoher Geschwindigkeit.
Und wie werden die Anforderungen insgesamt aussehen?
Es herrscht Aufregung (...) in der Box – das heißt, unter den Angestellten ("white collar workers"). Zum ersten Mal in der Geschichte taucht eine digitale Technologie auf, die die sehr repetitive Arbeit dieser Fachleute bedroht.
Was ist die Antwort darauf?
Plötzlich sollen weltweit Entwicklungsmoratorien eingeführt werden. Lobbygruppen versuchen, nationale Verbote zu verhängen. Und sie versuchen, sich schnell zu bewegen! So sehr einige dieser Argumente auf jeden Fall in Betracht gezogen werden sollten, ist die Panik nicht zu übersehen.
Aber, liebe Angestellte, das werdet ihr nicht los!
Und das ist gut so!
Wenn Sie alle Aspekte kennenlernen möchten, unsere bisher gemachten Erfahrungen teilen möchten, dann lade ich Sie ein, den gesamten Blog hier zu lesen:
https://www.imb.solutions/blog/ai-hallucination-amp-professional-transformation
Bin gespannt auf Ihre Kommentare!
Frank P. Neuhaus
Profil bei UNITEDINTERIM
Marechal Deodoro, 135, 19th. floor
04738000 São Paulo
Brasilien
Diese E-Mail-Adresse ist vor Spambots geschützt! Zur Anzeige muss JavaScript eingeschaltet sein!
+55 119 910 39 149
Kommentare 4
Hallo Herr Biermann,
vielen Dank für Ihren ausführlichen Kommentar. Ich finde, dass Sie recht viele Aspekte berührt haben und würde den Ball generell aufnehmen.
Grundsätzlich würde ich sagen, dass der „plötzliche Hype“ bzgl. KI eigentlich verwunderlich ist. Immerhin ist KI ein Untergebiet des ML und schon sehr lange unter uns. Anders würden Social Media gar nicht funktionieren. Die sog. Big Data sammeln und auswerten, neu kombinieren, ist ja nicht neu. Wie lange wird das Thema schon in allen Medien hoch und runter gebetet. Als ich in der Pandemie meine Fortbildung zum Digital Engineer am HPI machte, war AI und ML das zentrale Thema.
Was mit Sicherheit den aktuellen Hype und Faszination von KI aus meiner Sicht her ausmacht, sind die Entwicklungen von NLP- und LLP-Modellen. Wahrscheinlich konnten wir noch nie so einfach in unserer menschlichen Sprache mit einer digitalen Applikation „kommunizieren“.
Selbstverständlich erfand ich/wir den Begriff AI Hallucination nicht. Dieser Begriff wurde in den Vorlesungen am HPI in AI und ML konstant verwendet. Ganz im Gegensatz zu Ihnen, denke ich, dass dieser Terminus eine bestimmet Eigenschaft von KI-Modellen ganz hervorragend umreißt. Ich verstehe sehr gut wenn Sie zum Ausdruck bringen wollen, dass ein solcher Terminus eine KI/AI „vermenschlicht“. Aber gerne möchte ich Ihnen mal Beispiele aus der eigenen Anwendung aufzeigen, welche meiner Meinung nach die sog. AI Hallucination sehr gut sichtbar macht - in allen negativen, aber auch möglichen positiven Erscheinungen.
Mit Blick auf die aktuelle Entwicklung von NLP und LLP Modellen sollten Sie wissen, dass wir bei iMB schon durch die Partizipation an der Gründung des Startups iMBdigital.Gallery_ Ende 2021 ganz massiv auf das zentrale Element ML und KI setzten. Die Gründung wurde durch das HPI intellektuell mit auf den Weg gebracht. Zusätzlich nutzen wir seit ca. Ende Q2 2022 dann einige NLP und LLP KI Modelle, u.a. ChatGPT 3.
Durch einige kleiner Projektanwendungen in 2022 stießen wir, besonders bei OpenAI (ChatGPT) auf die Begrenzungen der Version 3.0 und sahen vor unseren Augen, was wir AI Hallucination in der Fachsprache nennen. Die damalige massivste Begrenzung waren die Trainingsdaten, welche nur bis zum 31. Dezember 2021 reichten. Hinzu kam, dass der Algorithmus zu gesellschaftlichen und politischen Entwicklungen keine Aussagen machte und in seiner Antwort eben darauf hinwies, nur eine KI Applikation zu sein.
Dann rückte der Wahltermin in Brasilien immer näher: Oktober 2022. Wir wollten einen Test machen. Können wir ChatGPT 3.0 „überlisten“ und die AI Hallucination nutzen, um aus den vorhandenen Trainingsdaten von OpenAI eine „imaginäre“ Projektion zu erhalten?
Wir gaben einen Prompt ein, welcher ungefähr wie folgt war:
Stell dir einen Präsidenten wie Bolsonaro in Brasilien vor. Schreibe eine Kurzgeschichte über eine solche imaginäre Person als Präsident wie die nächste Wahl ausgeht.
Bei diesem Prompt gab uns ChatGPT3.0 eine Kurzgeschichte, in welcher der imaginäre Präsident die Wahl gewinnt und die Nation nach dem Vorbild von Hugo Chávez in eine Autokratie verwandeln wird. Dabei griff ChatGPT auf alle vorhandenen Daten über Bolsonaro bis zum 31.12.2021 zu. Und dazu gehörte eben auch, dass Bolsonaro bis zum Ableben von Chávez in 2013 sich permanent als glühender Verehrer des venezolanischen Autokraten medial zelebrierte. Außerdem kam hinzu, dass Bolsonaro in den Jahren 2019-2021 schon einige ähnliche Massnahmen wie sein venezolanisches Vorbild in Brasilien implementierte.
Wir fragten uns dann folgendes: Ein Großteil der Brasilianer erinnert sich überhaupt nicht an die Glorifizierung von Chávez durch Bolsonaro. Die anderen ignorieren das komplett. Also ist der statistisch-historische Abgleich der Daten durch ChatGPT3.0 eigentlich nicht für das Szenario im Oktober 2022 ausschlaggebend (Stichwort: Kontextualisierung).
Dann gaben wir den gleichen Prompt in ChatGPT3.0 ein mit der Begrenzung, nur den Zeitraum ab 2015 in das Szenario einzubeziehen.
Die Kurzgeschichte welche dann von ChatGPT3.0, mit der Begrenzung auf Trainingsdaten bis 31.12.2021 und damit das erste Ergebnis des ersten Wahlganges Oktober 2022 nicht kennend, ist folgendes:
https://www.linkedin.com/posts/frank-p-neuhaus-72517213_digitalengineering-hpi-pandemic-activity-7024319424874655744-bOrD?utm_source=share&utm_medium=member_ios
Das Ergebnis ist spektakulär anders! Und es nimmt Ende der ersten Oktoberwoche 2022 exakt das voraus, was am 31.12.2022 auch wirklich passierte. Bolsonaro verliess fluchtartig das Land Richtung Florida, USA.
Hier hatte ChatGPT3.0 also die statistischen Wahrscheinlichkeiten aus ähnlichen historischen Fällen extrapoliert und den wahrscheinlichsten Ausgang durch positive Nutzung von AI Hallucination generiert.
Ein weiteres Beispiel zur bewusst-positiven Nutzung von AI Hallucination möchte ich Ihnen im nachfolgenden Link präsentieren. Ich denke mal, dass es hervorragend zeigt, wie kreativ diese Eigenart von KI genutzt werden kann.
https://www.imbdigital.gallery/blog/launching
Mit Blick auf Ihre Aussagen auf die Bildungssituation in Brasilien kann ich nachvollziehen was Sie meinen. Allerdings denke ich, auch im vergleich mit einer Anzahl an anderen Emerging Markets, welche ich persönlich gut kenne, dass Ihre Aussagen zu drastisch sind. Das Thema ist sehr komplex und es würde den Rahmen hier komplett sprengen.
Seit Q4 2022 waren wir mit iMB in einem Projekt im Fahrzeugbau involviert, wo AI ganz spezifisch in der internen Analyse genutzt wurde. Die Initiative steht auch in Zusammenhang mit dem HPI. In Brasilien und Mexico sollte eine spezifische AI Applikation im Process Mining getestet werden. Die KI sollte dabei unterstützen die Event Logs in den Wertschöpfungsprozessen aus Plausibilität zu überprüfen. Normalerweise ist das ein sehr manueller und extrem aufwendiger Prozess. Durch einen AI Assistant wurde der Prozess mit dem Faktor x5 beschleunigt. Mit der Erfahrung wird mir klar, dass in naher Zukunft z.B. Due Dilligences in M&A Projekten, oder Wirtschaftsprüfungen sowie BPM Prozesse deutlich effizienter werden.
Hallo Herr Neuhaus,
vielen Dank für Ihre sehr ausführliche Antwort, die ein guter Ausgangspunkt für weitere Differenzierungen ist, auch wenn ich die NLP- und LLM-Modelle nicht kenne und auch ansonsten keinerlei Programmierkenntnisse habe. Das sollte aber zunächst kein Problem sein...
Bevor ich loslege, möchte ich nur kurz loswerden, dass mir Ihr Beitrag über Sebastião Salgado gefallen hat. Ich bin bekennender Fan, habe die Ausstellung 'Genesis' in Paris und in Zürich gesehen. Wie bei der Erstellung der Website oder einzelner Beiträge KI - kreativ - genutzt wird, hat sich mir noch nicht erschlossen...
NTFs wären ein eigenes Thema... bei dem mir nur das Motiv, digitale Produkte mit einem Preis zu versehen, einleuchtet, um etwas zu verkaufen, was eigentlich nicht zu verkaufen ist...
Plausible Käufer-Motive fallen mir ausser Finanzspekulationen nicht ein...
Das wäre vor dem Hintergrund von Walter Benjamins Essay 'Das Kunstwerk im Zeitalter seiner technischen Reproduzierbarkeit' (1935) einmal separat zu betrachten.
«Grundsätzlich würde ich sagen, dass der „plötzliche Hype“ bzgl. KI eigentlich verwunderlich ist.»
Auch ich habe meinen Beitrag 'Künstliche Intelligenz und natürliche Sprachen' bereits im Juni 2019 geschrieben. Dass das alte Thema nun zum Hype wurde, liegt wohl an den spektakulären Ergebnissen, die von DeepL und von ChatGPT seit dem letzten Jahr veröffentlicht und auch in Selbsttests erzielt wurden. Sie präsentieren ja ebenfalls solche Ergebnisse wie die Geschichte des flüchtenden Bolsonaro, der weinend im Flugzeug über seine Fehler sinniert - als Vorhersage.
Früher hätte man gesagt: se non è vero, è ben trovato.
Das Entscheidende für mich ist, wie dieses Ergebnis zustandegekommen ist. Da geht es um die verwendete Datenbasis, um den kontrollierten Input, um die Beurteilung des Outputs und um eine Modifikation des Inputs, falls der gewünschte oder ein brauchbarer Output nicht generiert wird. Daran wird schon sichtbar, dass es sich um ein Werkzeug handelt, das einen kompetenten Anwender voraussetzt, der die Variablen so verändern kann, bis das gewünschte Ergebnis erzielt ist.
«Wahrscheinlich konnten wir noch nie so einfach in unserer menschlichen Sprache mit einer digitalen Applikation „kommunizieren“»
In diesem Satz kann ich zwei Aussagen nicht teilen: Zum einen zeigen schon Ihre Schilderungen, dass der Prozess bis hin zu der schlussendlichen Bolsonaro-Geschichte alles andere als einfach war.
Und solche voraussetzungsvollen und zum Teil aufwendigen Input/Output-Prozesse wären nur mit einem für mich viel zu weit gefassten Begriff als 'Kommunikation' zu bezeichnen. Die Motive der Vermenschlichung von Input/Output-Prozessen kann ich nachvollziehen, sie sind aber irreführend. Ich plädiere für eine Terminologie, die sauber zwischen Menschen und Maschinen trennt. Also können Maschinen allenfalls in einem metaphorischen Sinn 'halluzinieren', doch das wird nicht so klargestellt, und deshalb entsteht bei jemanden, der nicht der Programmierer-Szene angehört der Eindruck, die Maschine hätte menschliche Fähigkeiten.
So wie Sie den Entstehungsprozess der Bolsonaro-Geschichte beschreiben, haben Sie nicht mit dem KI-System 'kommuniziert', sondern den vorgegebenen Input dergestalt gesteuert oder manipuliert, bis Sie diese Geschichte erhalten haben («Das Ergebnis ist spektakulär anders!»).
Die Datenbasis haben Sie übernommen und nach und nach eingegrenzt.
Das ist eines der grossen Probleme, die ich sehe. Wer hat die Datenbasis (1 Billion Wörter) auf Vollständigkeit (im vorgegebenen Zeitraum) und auf Fehlerfreiheit geprüft? Oder haben Sie eine Black Box übernommen und ihr blind vertraut? Wenn die Datenbasis unvollständig und fehlerhaft ist, hat das Auswirkungen auf den Output, egal ob ein Teil des Inputs 1:1 reproduziert oder aus verschiedenen Teilen etwas Neues generiert wird. Weil der Input allein wegen seines Umfangs gar nicht überprüft werden, man sich aber auch nicht blind darauf verlassen kann, muss also der Output in jedem einzelnen Fall überprüft werden. Und zwar durch einen fachkompetenten Menschen. Auch weil für die Generierung der Outputs bei GPT-3 offenbar ein neuronales Netz mit 175 Milliarden Parametern zum Einsatz kommt. Für mich eine echte Black Box!
«Hier hatte ChatGPT3.0 also die statistischen Wahrscheinlichkeiten aus ähnlichen historischen Fällen extrapoliert und den wahrscheinlichsten Ausgang durch positive Nutzung von AI Hallucination generiert.»
Woher wissen Sie das? Oder ist das Ihre Schlussfolgerung anhand des Outputs? Es gibt keine Transparenz, wie auf der Basis von 570 GB im Internet zusammengesammelten Text-Daten und einer Software mit 175 Milliarden Parametern sowie einem mehr oder weniger umfangreichen Input (prompt) der jeweilige Output generiert wird. Da verstehe ich besser, dass dem Eindruck einer Wundertüte durch Anthropomorphisierung begegnet werden soll.
Beim menschlichen Gehirn weiss man ja auch nicht, wie es mit durchschnittlich 86 Milliarden Nervenzellen und rund 100 Billionen Synapsen Bewusstsein bildet und funktioniert, indem es mutmasslich 10hoch13 analoge Rechenoperationen pro Sekunde ausführt (Wikipedia). KI wird programmiert, basiert auf Weil-Motiven und Um-zu-Motiven, kann also auch - subtil - manipuliert sein, um zu manipulieren. Den Algorithmen wurde ja bereits nachgewiesen, dass sie die Vorurteile und Gesinnungen ihrer Programmierer reproduzieren.
Was bleibt dann übrig? Die Outputs können ihrerseits als Input, in kreativen Prozessen als Ideengeber im Sinne eines Brain Storming dienen. Gerade wenn die Outputs nicht präzise, eher vage oder verschwommen sind, wie eine Halluzination erscheinen, was dann aber in jedem Fall ein Rezeptionsphänomen (!) und keine Eigenschaft des Outputs oder der zugrundeliegenden KI ist. Die Outputs müssen in jedem einzelnen Fall anhand von Fachwissen überprüft und beurteilt werden, bevor sie übernommen werden können. Das trifft ganz sicher auch auf die Fälle zu, in denen Sie seit Q4 2022 KI eingesetzt haben.
Ich spüre bei Ihnen diese Technikbegeisterung, die mich an Ingenieuren absolut fasziniert, weil sie mir so fremd ist, wie ich spätestens bei meinem Besuch im Musée des Arts et Métiers in Paris begriffen habe.
Und weil bei mir schon immer die Menschen im Mittelpunkt standen, liegt mir sosehr an einer klaren Abgrenzung von den Maschinen: sie können nicht denken, sie können nicht verstehen, sie schieben bei menschlicher Sprache nur Zeichen hin und her, die sie aus einem beeindruckenden Fundus von 570 GB Textdaten und anhand von 175 Milliarden Parametern selektieren und in eine bestimmte Sortierreihenfolge bringen.
Da die Ergebnisse nie verlässlich sein werden und ohne kompetente Prüfung nichts sind, werden sie ihren Werkzeugcharakter auch nie verlieren. Alles andere ist nach meiner Überzeugung keine Zukunftsmusik, sondern reine Fiktion. Überlegen Sie mal, was Sie alles über Bolsonaro und die heutigen Brasilianer wissen mussten, um die Outputs inhaltlich nachzuvollziehen und daraufhin die Inputs zu verändern. Wie lange hat es wohl gedauert, bis die schöne Geschichte am Ende dabei herauskam?
Auch über Brasilien können wir uns gerne einmal separat austauschen. Den Schlüssel zum Verständnis der brasilianischen Gesellschaft hat mir die wissenschaftliche Beschäftigung mit den Unterschieden zwischen mündlichen und Schriftkulturen geliefert.
Brasilien ist bis auf eine kleine Oberschicht, die akademisch gebildet ist und ihre Wurzeln gerne in Europa verortet, eine mündliche Kultur, mit allen Konsequenzen... über die vor allem meine Frau Bücher schreiben könnte, die Brasilianer berät und begleitet, wenn sie in Europa auf Schriftkulturen prallen und gar nicht begreifen, was da so alles von ihnen erwartet und verlangt wird...
Beste Grüsse in die Kulturhauptstadt São Paulo... wo mich zuletzt Anfang 2019 - und gewiss nicht zufällig unter Bolsonaro - die bisher wohl grösste Ai Weiwei-Ausstellung tief beeindruckt hat.
Mit freundlichem Gruß
Armin Bierman
Guten Morgen aus SP,
vielen Dank für Ihre Kommentare. Der Austausch ist übrigens sehr gut, da Sie wahrlich viele kritische Punkte berühren und sichtbar machen.
NLP: Natural Language Processing
LLM: Large Language Model
Diese beiden Neuerungen sind ja eigentlich genau das, was die Welt aktuell an KI fasziniert. Da gibt eine Software vor uns Menschen zu verstehen … . Ist natürlich dummes Zeug, da es sich um nichts anderes als statistische Wahrscheinlichkeiten im Folgewort handelt. Aber trotzdem ein wirklich großer Schritt.
Die Erstellung der Webpage hat gar nichts mit KI zu tun. Es geht um die Erstellung des digitalen Buches, was wir unter Anwendung von drei AI-Applikationen erstellten.
Hier nochmals der Link, wo sie das Buch aus im Apple Book Store Downloaden können. Gerade für Sie, der SP auch kennt, ggf. eine interessante Sache.
Link:
https://www.imbdigital.gallery/blog/launching-a
Der Hintergrund das digitale Coffeetabe Book soweit als möglich mit ML und AI zu generieren geht auf Anforderungen aus einem konkreten Projekt zurück, plus Anregungen vom HPI.
Sie schreiben:
„… Die Datenbasis haben Sie übernommen und nach und nach eingegrenzt. …“.
Das ist genau das, was in dem ursprünglichen Blog auch mit kontextueller Intelligenz beschrieben wurde. Ein sog. Prompt Engineer muß wissen, was er in das System eingibt, was die Grenzen des Systems sind (z.B. zeitliche Limits bei den Trainingsdaten) plus ein Allgemeinwissen, die Inputs und den entsprechenden Out in den jeweiligen Kontext zu stellen.
Genauso das sehe ich als eine Essenz in der allgemeinen Anwendungen dieser neuen NLP Modelle an. Es handelt sich hier eben nicht um herumdoktern! Ganz im Gegenteil! Im positiven Sinne kann man die Begrenzungen dann auch nutzen und die sog. AI Hallucination gewinnbringend nutzen.
Aus meinem Kommentar:
„Hier hatte ChatGPT3.0 also die statistischen Wahrscheinlichkeiten aus ähnlichen historischen Fällen extrapoliert und den wahrscheinlichsten Ausgang durch positive Nutzung von AI Hallucination generiert.»
Sie fragen, woher ich das weiß. Ich weiß das gar nicht. Wenn man allerdings damals dem mit Trainingsdaten zum 31.12.2021 limitierten ChatGPT3.0 den historischen gesamten Datensatz zur Generierung der Kurzgeschichte im Prompt vorgibt und Version 01 erhält, danach aber den historischen Datensatz auf 2016 bis 31.12.2021 eingrenzt und eine ganz andere Variante erhält, ist doch stark anzunehmen, dass die Beeinflussung der statistischen Wahrscheinlichkeit in der Reduktion des historischen Zeitraums liegt. Zumindest ist der Einfluß wohl recht groß.
Sie fragen, wie lange es dauerte, bis eine „schöne Geschichte“ herauskam. Nunja, das dauerte nicht länger als 30-45 Minuten. Wir waren damals mit dem digital Coffeetable Book zugange und wollten zu einzelnen Kapiteln eine AI „provozieren“ mit Hilfe der AI Hallucination Texte mit basis auf den Fotos zu generieren.
Das war der Dienstag nach dem ersten Wahlgang in Brasilien Anfang Oktober 2022. Um den Impact der AI Hallucination einfach mal massiv sehen zu können, kam uns die Idee ChatGPT3.0 zu befragen, wissend, dass die Trainingsdaten auf den 31.12.2021 beschränkt waren und OpenAI keine Aussagen zu politischen Themen macht.
Und hier haben Sie es wieder: wer mit AI arbeitet, besonders den populär zugänglichen NLP/LLM, sollte kontextuell die Inputs und Outputs mit einer erhöhten Sensibilität erfassen können.
Interessant und sehr wertvoll finde ich Ihren Hinweis auf Museen, gerade auch Kunstmuseen. Mir geht es genauso. Seit die Digitalisierung immer mehr zunimmt, nahm mein Wunsch mit hoher Regelmäßigkeit Kunstaustellungen und Museen zu besuchen massiv zu. Das schafft sowas wie einen „erweiterten kritischen Filter für die Dinge“.
In dem Sinne, wenn Sie nächstes mal in SP sind, besuchen Sie unbedingt die neue Pinacoteca.
Gruß,
Frank P. Neuhaus
Herr Neuhaus, ich finde Ihre Aussagen zu KI interessant, weil sie sich teilweise mit meiner Sichtweise decken, obwohl diese (wissens)soziologisch und sprachtheoretisch fundiert ist und ich eine ganz andere Terminologie verwende. Trotzdem gibt es auch markante Abweichungen, nicht nur bei Ihren Einschätzungen hinsichtlich der zu erwartenden Auswirkungen von KI auf die Arbeitswelt und die Gesellschaft.
Beginnen möchte ich mit dem Begriff der KI-Halluzination, den Sie nicht erfunden haben, aber übernehmen: ich halte ihn für unbrauchbar und auch falsch in bezug auf KI, denn Halluzinationen bezeichnen Sinnestäuschungen und verfälschte Wahrnehmungen. KI kann aber weder etwas wahrnehmen, noch kann sie verstehen, weil sie keinen Zugang zu den Bedeutungen (in bestimmten Situationen) hat. KI hat kein Bewusstsein und kann auch nicht denken. Bedeutungen lassen sich in den allermeisten Fällen nicht errechnen, auch in Zukunft nicht. Sie verwenden den Begriff für einen Output von KI, der nicht Teil des Inputs ist, und sind der Meinung, dieser könne als Anregung oder Ideengeber fungieren.
Interessanterweise schreiben Sie selbst, dass diese Outputs der Beurteilung bedürfen, und dass für diese Überprüfung, die Sie 'Monitoring' nennen, eine breites Wissen Voraussetzung ist. Denn nur ein umfangreiches vertikales und horizontales Wissen ist in der Lage, die Outputs als richtig/brauchbar, falsch oder kompletten Nonsense zu unterscheiden. Wozu übrigens immer weniger Menschen in der Lage sind, weil die Bildungssysteme unter dem Neoliberalismus der letzten 30 Jahre kaputtgespart wurden.
In Brasilien ist die Situation noch wesentlich verschärfter, weil weite Teile der Bevölkerung keinen oder kaum Zugang zu Bildung haben. Das ist viel entscheidender als das Durchschnittsalter der Bevölkerung. Brasilien ist eine fast ausschliesslich mündliche Kultur, die nur deshalb noch nicht komplett abgehängt ist, weil die Smartphones ermöglicht haben, auch mit reiner Mündlichkeit einen grösseren Kommunikationsradius zu erzielen. Die - funktionalen - Analphabeten verfügen seitdem über noch weniger Wissen, können weiterhin komplexere Zusammenhänge weder herstellen, noch erkennen, können nicht abstrakt denken, was Schriftlichkeit voraussetzt. Wo soll also das breite Allgemeinwissen herkommen, das Sie als notwendige Voraussetzung für den Umgang mit den Outputs von KI erkannt haben?
Kann es sein, dass KI genau daran scheitern wird?
Noch ein letzter Punkt, der bei Ihnen als 'kontextuelles Denken' bezeichnet wird. Die Fähigkeit, in grösseren Zusammenhängen zu denken, war schon immer eine Voraussetzung für tragfähige Denkergebnisse und Lösungen. Und genau das kann KI nicht, wenn es um natürliche Sprachen geht, denn KI hat keinen Zugang zu den Bedeutungen und zu den Bedeutungen in bestimmten Situationen, weiss also nicht, was ein Satz wie 'Sie sind verliebt in Paris' konkret meint. Sobald aufgrund des unbekannten Kontextes Mehrdeutigkeiten auftreten, aber auch bei konnotativer Sprache (Metaphern, Ironie) ist KI ganz schnell am Ende.
Da wird alles völlig humorlos wörtlich genommen/übersetzt, denn KI beherrscht allenfalls denotative Sprache. Schon simple Sätze wie 'Ich verstehe nur Bahnhof' oder 'Es kommt mir spanisch vor' sind wegen der Mehrdeutigkeit ein unüberwindbares Hindernis, das niemals beseitigt werden kann.
Auch Sätze wie 'Die Mutter hat einen Defekt', die ohne spezielle Deutschkenntnisse jeder versteht, schafft etwa DeepL nicht.
Das sind, wie gesagt, unlösbare Probleme, weil die Situation der Äusserung nicht Teil der Äusserung ist. Das kann auch 'prompt writing' nicht kompensieren, so krampfhaft nun auch darauf gesetzt wird.
Insofern würde ich diesem von Ihnen genannten neuen Beruf keine Zukunft einräumen. Technologieoffenheit wird generell positiv bewertet, doch die Leistungsfähigkeit von KI bei menschlicher Sprache wird hoffnungslos überschätzt und unterschätzt. Sie ist ohne Menschen mit Urteilskraft völlig unbrauchbar, auch beim Übersetzen und Dolmetschen, wird aber eine Schneise der Verwüstung und der Verunsicherung anrichten.
Ganze Berufe werden aussterben, obwohl man sie auch in der Zukunft noch brauchen wird, nur weil KI überschätzt wird und ihr menschliche Fähigkeiten angedichtet werden...
In meinem Blog (https://biermann.ch/blog/) finden Sie eine Reihe von Beiträgen zu diesem Themenkomplex, auch zu Brasilien, dem Land meiner Frau. Einen herzlichen Gruss nach São Paulo, das ich auch ein wenig kenne...
https://biermann.ch