Die qualitativen Totalausfälle und meine Vermenschlichung von KIs
Vorweg: KIs (AIs) können sehr nützlich sein und haben mir schon viel Zeit gespart. Etwa als ich mir kürzlich einen Windows-XP-Retro-Spiele-PC zusammengeschraubt habe. Die KI (GROK) wurde von mir folgendermaßen beauftragt: Stelle mir einen Gaming-PC für Windows XP zusammen, der mit der absoluten Top-Hardware aus den Jahren 2008/2009 ausgestattet ist. Die Antworten (ich habe noch mehrfach hinsichtlich der Details nachgefragt) waren qualitativ sehr hochwertig. Was mich viele Stunden der Recherche gekostet hätte, konnte ich mit KI-Hilfe in vielleicht 20 Minuten erledigen. Freilich, GROK konnte hier im Internet auf eine absolute Unmenge an Informationsmaterial zurückgreifen.
Es geht aber auch völlig anders. Und zwar vor allem dann, wenn es politisch wird. So wollte ich dieser Tage - wieder von GROK - wissen: Welcher politisch-militärisch-industrielle Komplex ist korrupter (unbedingt auch legale Korruption beachten!). Der westliche (vor allem der us-amerikanische) oder der russische? Ich will absolut nur neutrale Quellen, die über jeden Zweifel erhaben sind!
Die Antwort von GROK, die tendenziell zu Ungunsten Russlands ausfiel, basierte dann auf so famosen Quellen wie Süddeutsche Zeitung und RAND Corporation. Ich dachte mir, das Teil will mich verarschen. Wer es nämlich nicht weiß: Die sogenannte RAND Corporation ist jener äußerst einflussreiche US-amerikanische 'Think Tank' (=verkappter Lobbyverein), der 2019 ein Papier veröffentlicht hat, in dem der Gedanke durchgespielt wurde, die Russische Föderation in einen militärischen Konflikt mit einem größeren Nachbarstaat zu locken, um dann mittels Sanktionshammer zuschlagen zu können und Russland so als Global Player zu neutralisieren (Titel der Arbeit;: "Extending Russia: Competing from Advantageous Ground"). Mehr transatlantisch und parteiisch geht nicht.
Erbost erwiderte ich deshalb der KI: Schieb dir diesen Quellenschrott sonst wo hin! NEUTRALE Quellen wollte ich!
Was machte die KI daraufhin? Sie räumte devot ein, dass die Quellen wohl wirklich nicht neutral gewesen sind (und begründet das sogar im Einzelnen!). Also präsentierte sie mir eine neue Analyse - diesmal eher zu Gunsten Russlands, auf Basis von vor allem Sputnik und RT - zwei russischen Staatsmedien!
Ich war jetzt kurz vor einem Nervenzusammenbruch. Das unsägliche Ding war nicht in der Lage, Publikationen von wirklich unabhängigen Fachleuten zu finden. Obwohl ich wusste, dass es die vereinzelt sehr wohl gibt. Also habe ich es aufgegeben und GROK zum Abschied geschrieben: Du bist absolut inkompetent. Lösch dich! (was freilich einfach gesagt ist, aber in der Praxis ... ^^)
Ich sollte KIs wohl nicht vermenschlichen. Auch dann nicht, wenn ich schon ein paar Promille intus habe...
Aufgrund eines überdurchschnittlichen Vorwissens war es mir in den beiden beschriebenen Fällen möglich, die Qualität der Antworten einzuschätzen. Doch was macht man, wenn dieses Vorwissen nicht besteht? Dann ist man wieder genau dort, wo wir vor dem KI-Hype waren: Man muss quasi manuell suchen und viel Zeit investieren; sofern einem das jeweilige Thema wirklich wichtig ist. Nur wer macht das schon? Da der durchschnittliche Nutzer faul ist - und überdies psychologische Aspekte wie 'confirmation bias' eine Rolle spielen können - werden sehr viele Menschen unkritisch das fressen, was ihnen die KI vorsetzt. Deren intellektuell unreifes Verhalten (siehe auch die berühmte fehlende "Medienkompetenz") ist mindestens genauso ein Problem wie die lausig arbeitende KI selbst.
—————–
Sabine Hossenfelder über akademischen Riesenbeschiss
Es ist ja nicht besonders schwer, irgendwo das Label Wissenschaft draufzudrücken, jedoch ist deshalb noch lange nicht Wissenschaft drinnen. So wie auch die Berufsbezeichnung Wissenschaftler nicht für einen guten Charakter und Anständigkeit garantiert. Obschon natürlich viele Wissenschaftler es in ihrem intellektuellen Narzissmus sehr gerne sehen würden, wenn der Rezipient ihrer Arbeiten in artiger Autoritätsgläubigkeit verharrt. Sabine Hossenfelder (die heißt fast wie ich 😄), eine deutsche Physikerin, deren (englischsprachigen) Youtube-Kanal ich schon vor einiger Zeit abonniert habe, spart diesbezüglich nicht mit Kritik an Ihren Wissenschaftler-Kollegen; sie legt dabei offen, dass sich ein MINT-Fach in qualitativer Hinsicht gefährlich an klassische Laberfächer annähern kann. Was ihr die Betreiber des pseudowissenschaftlichen Schwachsinns schon mal mit versuchter Existenzvernichtung heimzahlen (Kategorie 'Charaktermüll').
In einem ganz aktuellen Video geht es nun u.a. um den Riesenbeschiss mittels "paper mills". Ein Hotspot dabei ist - wie übrigens auch im Bereich des Ghostwritings bei akademischen Arbeiten - mein ganz persönliches osteuropäisches Lieblingsknuddelland. Wo, wie ich regelmäßig vernehme, unsere Werte verteidigt werden. Im Konkreten Fall sind diese Werte Wissenschaftsbetrug in astronomischem Ausmaß.
Sehr sehenswert, um den modernen Wissenschaftsbetrieb zukünftig hinsichtlich seiner Seriosität passend einordnen zu können (falls wieder einmal irgend ein Dolm ultimativ "Follow the science!" einfordert ^^).
—————–
Ich leide mit dir! :-)
AntwortenLöschenAuch ich sehe es als größten Mangel, dass "Künstliche Intelligenzen" noch kein konstantes Qualitätslevel aufweisen. Ich mache in meinem Fach (Biologie) am laufenden Band negative Erfahrungen damit. Mir ist dabei aufgefallen, dass die Mängel sehr oft auf Wikipedia als Quelle zurückzuführen sind. Eigentlich gehört Wikipedia auf eine Blacklist gesetzt, damit die KI sie nicht automatisch nutzt. Ich mache es deshalb so, dass ich die KI meistens ausdrücklich anweise, bestimmte Quellen bei der Beantwortung nicht zu nutzten. Darunter an allererster Stelle Wikipedia.
W.T.C.
Ja, Wikipedia ist hier indirekt sicher ein gewaltiges Problem. Aber die wahre Ursache ist die Funktionsweise der KIs.
LöschenWenn in den unzähligen von der KI abgegrasten Internetseiten eine Quelle häufig vorkommt (z.B. Wikipedia) dann wird diese Quelle allem Anschein nach automatisch als höherwertig eingestuft. Quantität siegt hier über Qualität. Das hat die KI (GROK) mir gegenüber auf Nachfrage als Ursache für Qualitätsmängel bei Antworten eingeräumt.
Die Dame liegt richtig, dieser Zitier-Irrsinn ist eines der größten Übel der modernen Wissenschaft.
AntwortenLöschenAls ich Anfang der Neunziger zu studieren begonnen habe (Chemie), war die Situation aber auch schon übel. Ich erinnere mich an einen Professor, der hat seine studentischen Hiwis immer wieder beauftragt, in den neu eingetrudelten Fachpublikationen in der Uni-Bibliothek nachzuschauen, ob darin sein Name auftaucht. Der gleiche Typ hat sich auch seine E-Mails ausdrucken lassen, weil er kein E-Mail-Programm bedienen konnte / wollte.
Wundert es da noch jemanden, dass die heutige Professorenschaft, die zu guten Teilen solche Lehrer gehabt hat, nichts taugt?
Kilian
Ja, so etwas kenne ich, LOL!
LöschenWir hatten Ende der 1990er in der Abendschule einen Lehrer als IT-Administrator (!), der Abendschüler bitten musste, dass sie ihm beim Administrieren eines Fileservers helfen, weil er mit dem damals noch relativ neuen Windows NT 4.0 nicht klargekommen ist. Das war zwar schwieriger als die von dir beschriebene Verwendung eines E-Mail-Clients, aber wenn man bedenkt, dass es sich bei der Abendschule um eine HTL gehandelt hat und der Lehrer Dipl.-Ing. in Elektrotechnik gewesen ist, dann war auch das ein Armutszeugnis.
Die gute alte Zeit, in der sich die Schüler in der IT (damals noch "EDV"!) besser ausgekannt haben, als die meisten Lehrer. Es hat sich da aber etwas geändert, glaube ich. Heutige Schüler können fast nur mehr am Handy wischen und tippen. Null Ahnung von den technischen Hintergründen. Der Informatikunterricht ist ein Witz. Darin geht es fast nur mehr darum, vor Fake News, Social-Media-Sucht und Datenschutzvergehen zu warnen. Dazu vielleicht ein wenig Pseudoprogrammieren. Also z B wie klicke ich mir eine Internetseite mit einem grafischen Editor zusammen. Sprachen wie C++ oder Python kann man den Schülern schon nicht mehr zumuten. Ich erlebe das gerade bei meinem ältesten Sohn. Das ist alles so ein trivialer Scheiß, aber Hauptsache man schleust möglichst viele Schüler durch das Fach, damit sie nicht sitzen bleiben.
Löschen"Hauptsache man schleust möglichst viele Schüler durch das Fach, damit sie nicht sitzen bleiben."
LöschenDas ist mittlerweile leider ein fächerübergreifendes Motto im Schulsystem.