achwas.fm

Kategorie: Künstliche Intelligenz (KI)

  • Der Chatbot im Suchfeld – Google dankt ab.

    Der Chatbot im Suchfeld – Google dankt ab.

    Staffel 3, Episode 19  Für diese Folge analysierten wir Neuigkeiten der Google Suche 2026: Die „Findemaschine“ nutzt nun generative KI. Das heisst, sie sucht nicht mehr „richtig“ nach Quellen mit dem Ergebnis, dass wir den Titel eines Suchergebnisses, den Kurztext und den Link zur Webseite selber weiterarbeiten und nutzen können. Sondern Google „erntet“ Informationen des Internets mit einer Macht, die man mit dem „Fracking“, dem Rauspressen der letzten Tropfen Öl aus Gestein, vergleichen kann.  Und da man Menschen natürlich nicht Rohöl anbieten kann – wer nennt schon eine Hausraffinerie sein Eigen – werden diese Informationstropfen aus unterschiedlichen Quellen in Texte synthetisiert, hübsch angerichtet und gehirngerecht als „Suchergebnisse“ präsentiert.


    Jay Peters, ein Journalist des Online Magazin „THE VERGE“ fasste zusammen „Es fühlt sich an, es würde Google für uns googlen“ (The Verge 2026), siehe Quellen.

    Das wars. Keine Wahl der eigentlichen Quellen, kein Stöbern woher denn die Erkenntnisse kommen. Friß oder stirb? Oder bietet Google doch mehr? 

    Wieder einmal schauen wir hinter die Kulissen, haben uns die Entwicklung bei Google in den letzten 3 Jahren seit 2023 angeschaut, fragen uns, was wir Suchenden davon haben (oder verlieren) aber auch, was die Firmen machen, die mit dem Wissen über Google verdienen. Stichworte sind SEO (Textoptimierungen von Websites um besser gefunden zu werden) oder auch die Versuche, KI-gerechte Texte zu schreiben (AEO und GEO) oder Markennamen wie Prompts zu gestalten. 

    Kurzes Innehalten? Ja wir sprechen immer noch von Google. Es wurde von einer genial konzipierten Suchmaschine für Inhalte auf Webseiten weiterentwickelt: Sagen wir es mal so: Die kenntnisreiche und erfahrene „Bibliothekarin Google“ war ein Unternehmen, das das Wissen der Welt aus Websites an uns Suchende weitergibt. „Suchet – und ihr werdet gefunden“ hiess unsere erste Episode zum Thema. Das wortspielte mit dem Geschäftsmodell, bei dem die Profile der Suchenden meistbietend an Unternehmen versteigert wurden.
    Quelle: Suchet und ihr werdet gefunden. Die andere Google Story. achwasfm.janlucash.com/, 16.7.2021, Staffel 1, Episode 6).

    In dieser Folge geht es um die zwei Dimensionen – und ein mögliches Fazit zur der neuen Google Suche 2026. Sie steht auf der Basis von generativer KI, oder auch Großen Sprachmodellen (LLM). Die Ergebnisse der Suche werden nicht mehr nach der höchsten Plausibilität und Passung zur Frage ausgewählt. Sondern werden nach der Häufigkeit und Wahrscheinlichkeit generiert (synthetisiert), was Menschen, Texte und Maschinen schon zu solchen Fragen irgendwo im Web geäussert haben – oder auch nicht. Das nennt man fälschlich „Halluzination“, eine Falsch-Wahrnehmung oder Interpretation des menschlichen Gehirns. Bei KI ist das einfach nur erfunden und erlogen.

    Das wirft zwei fundamentale Fragen auf:

    • „Consumer“: Was genau macht die Neue Intelligente Suche von Google für uns Suchenden, wenn wir nicht mehr auf den Link zu Quelle klicken, sondern Google uns die Informationen auf seinen Seiten komplett als Text, Nachricht, Produktflyer präsentiert. Wie groß ist unser Vertrauen? Müssen wir – mit anderen Mitteln als Google zu nutzen – Detektive sein, um selbst die Wahrheit zu finden?
    • „Enterprise“: Was bedeutet die Neue Intelligente Suche für Geschäftsmodelle im Google Universum? Für die Unternehmen, die für ihre Auftraggeber – vom Gewerbetreibenden bis zum Konzern – mit intelligenten Methoden möglichst viele Klicks generieren lassen und über die Weiterleitung aus der Suche auf deren Webseiten Umsatz generieren?
      Denn bis zu 60% der „Suchen“ der KI Version beginnen und enden bei Google. Google als „Empfehler“ von Webseiten zu Wissen und Produkten gibt es nicht mehr im uns bekannten Ausmaß.
    • Dankt die Suchmaschine Google ab? Ist Google noch vertrauenswürdig, wenn als Ergebnis einer Suche ein „Pop Up Store“ von Produkten erscheint? Und noch mehr: Wie viel Autonomie und Wahlmöglichkeiten verschwinden? Wenn die Devise lautet: „Ein Click zum Glück“ und „Frag nicht, nimm das“? Es könnte Skepsis auslösen. Wir könnten an den Ergebnissen zweifeln.

    Quellen

    Aktuell am 7.8.2026
    – Vier Architekten der Google KI-Suche gründen AI Spinn-Off
    – Google investiert in das neue KI-Unternehmen Discovery Loop

    „Google steht vor einer bedeutenden personellen Neuaufstellung im KI-Bereich, wie Search Engine Watch berichtet. Vier renommierte Entwickler – Jeff Dean, Sanjay Ghemawat, Quoc Le und Oriol Vinyals – verlassen das Unternehmen, um mit Discovery Loop ein neues KI-Unternehmen zu gründen. Die Public-Benefit-Gesellschaft (PBC) soll sich darauf konzentrieren, wissenschaftliche und technische Forschung mithilfe von Künstlicher Intelligenz zu automatisieren. Eine PBC ist eine gewinnorientierte Kapitalgesellschaft, die sich per Satzung neben finanziellen Zielen ausdrücklich einem ausdrücklichen Gemeinwohlzweck (Bildung, Umwelt, …) verpflichtet.

    Trotz des Wechsels bleiben die Verbindungen zu Google eng. Der Konzern beteiligt sich als Gründungsinvestor an Discovery Loop, stellt Rechenkapazitäten über Google Cloud bereit und plant eine Zusammenarbeit bei der Entwicklung neuer Machine-Learning-Technologien. Dadurch erhält das neue Unternehmen mehr unternehmerische Freiheit, während Google weiterhin von dessen Forschung profitieren kann.“
    Quelle: marketing-boerse.de
    „Google verliert Architekten der KI-Suche“
    https://www.marketing-boerse.de/web/details/2632-google-verliert-architekten-der-ki-suche/205896

    Allgemeine Informationen – aus Nutzersicht

    Google I/O 2023: Making AI more helpful for everyone
    Etwas versteckt wird der fundamentale Satz in der Vorstellung des Weges von Google für die nächsten Jahre versteckt:
    „The future of Google Search is AI. But not the way you think. The company synonymous with web search isn’t all in on Chatbots“.
    Das macht neugierig.
    https://blog.google/innovation-and-ai/technology/ai/google-io-2023-keynote-sundar-pichai/

    Mehr zu AI (KI) bei Google wurde in diesem Blogbeitrag erzählt
    https://blog.google/innovation-and-ai/technology/ai/google-gemini-ai

    Google I/O 2024: Erweiterung der KI-basierten Übersichten in der Google Suche.
    Ein Jahr später schreibt Sundar Pichai über die Erweiterung der KI-basierten Übersichten in der Google Suche.
    … Google is starting to roll out „AI Overviews“, previous known as the Search Generative Experience (SGE). … Bald sehen Milliarden von Nutzern KI-generierte Zusammenfassungen oberhalb von vielen ihrer Suchergebnisse…
    2023 wurden die Texte auch in Deutsch veröffentlicht:
    https://blog.google/intl/de-de/unternehmen/inside-google/sundar-pichai-google-io-2024

    Google I/O 2025: Ask anything with AI in Search

    Google has announced that it’s rolling out AI Mode, a new tab that lets you search the web using the company’s Gemini AI chatbot, to all users in the US starting this week.

    Google will test new features in AI Mode this summer, such as deep search and a way to generate charts for finance and sports queries. It’s also rolling out the ability to shop in AI Mode in the “coming months.”

    https://blog.google/innovation-and-ai/products/google-io-2025-all-our-announcements

    Und nun, am 19.5.2026 verkündet Google I/O 2026, die größte Veränderung der Suchmaschine seit 25 Jahren (so lange gibt die Google Suche bereits).

    Die Artikel von Jay Peters und Kolleg:innen zum Thema Google I/O lassen sich auf THE VERGE unter folgendem Link abrufen:
    https://www.theverge.com/search?q=Google%20I/O

    Aber was bringt das Neue Google 2026 insgesamt?
    Unsere umfassende Quelle ist
    https://blog.google/products-and-platforms/products/search/

    Um Google gesamt näher kennen zu lernen, sollte man sich tagelang in den Blogs umtun.

    Was wir lernten: Vieles, was Google (alt) ausmachte, zum Beispiel Algorithmen um die Bedeutung von Webseiten für ein Thema zu gewichten (siehe Page Rank), wurden nicht abgeschafft – sind aber in der KI Welt nur noch ein Signal von vielen.

    Wie die Suchseite aussehen wird: Es gibt zwei Arten von KI Unterstützung.

    • AI Overview: ergänzt die Suche, die Ergebnisseite gibt eine Antwort aus vielen Quellen aus, man braucht nicht mehr selbst Seiten zu öffnen
    • AI Mode: Die Suche öffnet im Suchschlitz eine AI Anwendung, die das übliche Prompten übertrifft: Ergebnis ist eine persönliche Ergebnis-Webseite mit Bildern, Texten, Produktbeschreibungen und der Möglichkeit zu suchen und zu bestellen.

    Wenn eine Suche von KI beantwortet wird mit einer „persönlichen“ Website, stellt sich die Frage nach Zuverlässigkeit und Qualität.
    Und weiter: Wer steuert die Ergebnisse mit seinen Fragen? Wie vertrauenswürdig ist die KI?

    Antworten dazu gibt Melanie Schirmer in ihrem Artikel „Wenn KI-Agents die Online-Wirklichkeit verschieben“ 1. Juni 2026.

    https://www.it-boltwise.de/wenn-ki-agents-die-online-wirklichkeit-verschieben-krise-der-agency.html

    Das Fazit zu ihrem Artikel: Wenn der Weg zur eigenen Recherche verstellt wird, weil eine KI „die Wirklichkeit“ verschiebt, führt dies zu mehr Verwirrung. Nur noch wenige Expert:innen kennen sich aus und können Quellen „lesen“.

    Siehe /höre auch unsere „Populismus I“- Folge
    https://achwasfm.janlucash.com/populismus-i-die-grosse-verwirrung/

    Google im Search Universum (für Interessierte an der Google Welt; SEO Spezialisit:innen etc.)

    Google und die Unterstützer auf Unternehmensseite lieferten sich seit 25 Jahren einen Wettbewerb: Konnte man tatsächlich feststellen, wie Google sucht und was Google als bedeutsam gewichtet, dann konnte die Suchmaschine entsprechend bedient werden: Mittel dazu waren lange Zeit die SEO Parameter, die Suchmaschinenoptimierung der Webseiten https://de.wikipedia.org/wiki/Suchmaschinenoptimierung.

    Mit der Einführung der KI Suche (zuerst AI Overview) wurden viele Suchanfragen direkt in der Suche beendet.
    Für exakte Zahlen zum Ausmaß empfehle ich die den SEO Kreativ Blog:
    https://www.seo-kreativ.de/blog/google-ai-overviews-updates-2026/

    Der Blog titelt „AI Overviews zerstören Klicks – jetzt rudert Google zurück“ und bezieht sich auf aktuelle Informationen vom 30.6.2026.
    Allerdings werden Tipps weitergegeben, die von Google Seite als „unnötig“ bezeichnet werden.

    Das Folgenbild

    Das Bild zu unserer ersten Folge zu Google zeigte den Bibliothekar auf der Leiter, ein bekanntes Bild von Carl Spitzweg (auch bekannt als „Der Bücherwurm“).
    Für das neue Google musste eine kommerziellere Auskunft her. Das Folgenbild von Marinus van Reymerswaele (auch  Marinus van Reymerswale  (1490 – 1546) trägt mindestens zwei Titel:
    „Der Anwalt“ oder auch wahlweise „Der Steuereintreiber“.
    Beides passt zum Thema der Welt von Nutzenden und Kommerziellen im Bereich Suche:
    Der Anwalt, wie man sieht, hat Bücher und Schriftstücke parat, um seine Klienten gut zu beraten. Im Vordergrund rechts sieht man einen Klienten, der die letzten Münzen aus seinem Geldkatze schüttelt, um den anwaltlichen Rat zu erlangen.
    Der Steuereintreiber hat Aufzeichnungen über die Schuldner parat und sieht sich einem (säumigen) Steuerzahler gegenüber, der nicht ganz solvent wirkt.
    Zu sehen ist das Bild in der Pinakothek in München unter dem Titel „Der Advocat“ (1542). 
    https://www.sammlung.pinakothek.de/de/artwork/apG9V594Zn/marinus-van-reymerswaele/ein-advokat

    Hinweis: Auch dieses Bild in achwasfm.janlucash.com/ ist gemeinfrei. 

  • Vergiftete Daten in KI Modellen

    Vergiftete Daten in KI Modellen

    S03E17 Gifte sind ein probates Mittel, um Menschen Übles anzutun. Man kann damit morden – oder auch in übler Nachrede behaupten, dass z.B. Angehörige von Religionen durch das Vergiften von Luft oder Wasser dies tun. 

    Kann man auch KI vergiften? Künstliche Intelligenz braucht saubere, unverfälschte Daten wie wir sauberes Wasser und reine Luft. 

    Sind Daten falsch oder gefälscht, können die KI generierten Ergebnisse gefährlich falsch werden. Durch „Data Poisoning“ drohen Gefahren für Leib und Leben, Reputation und Vertrauenswürdigkeit.

    Wir berichten in dieser Folge über die detektivische Arbeit von Wissenschaftler:innen, die stetig nach Anzeichen von Vergiftungen im Web und in KI Anwendungen suchen. In abgeschotteten Laboren stellen sie diese Vergiftungen nach, mischen „giftige Daten“ um „böse KI“ früh genug zu erkennen und Mittel zu entwickeln, um den Gefahren entgegen zu treten. 

    Dabei wenden die Wissenschaftler:innen Methoden an, die auch psychisch erkrankten Menschen zu Gute kommen. Manche Maßnahmen ähneln psychotherapeutischem Wirken.
    Man kann dies genial nennen, wenn man den Anspruch an eine künstliche Intelligenz ernst nimmt: Denn auch „kranke“ KI Modelle kann man mit Methoden der Psychotherapie „heilen“, die Folgen der Vergiftung mindern.

    Quellen

    Brunnenvergiftung
    In §324 StGB wird der Tatbestand definiert: „Wer unbefugt ein Gewässer verunreinigt oder sonst dessen Eigenschaften nachteilig verändert, wird mit Freiheitsstrafe bis zu fünf Jahren oder mit Geldstrafe bestraft. Der Versuch ist strafbar. Handelt der Täter fahrlässig, so ist die Strafe Freiheitsstrafe bis zu drei Jahren oder Geldstrafe.“
    „Datenvergiftung“ ist bisher nicht im Strafgesetzbuch als Gesetzesbruch vorgesehen.

    Wo haben wir das Thema entdeckt?
    Meldung in der tagesschau.de Stand: 16.01.2026 • 12:34 Uhr
    Künstliche Intelligenz und Ethik. Wenn KI-Chatbots bösartig werden
    „Das Fine-Tuning von KI-Modellen mit problematischen Zahlenreihen kann zu unerwartetem Fehlverhalten führen. Experten warnen vor den Risiken und fordern mehr Forschung.“
    https://www.tagesschau.de/wissen/technologie/ki-sprachmodelle-100.html

    Die Quelle für die Meldung in der Tagesschau-App war das folgende Forschungspapier
    Emergent Misalignment: Narrow finetuning can produce broadly misaligned LLMs
    Artikel: https://arxiv.org/abs/2502.17424
    Ebenfalls Link zur PDF und Anhängen.

    Die Experten – die Forschergruppe
    Hinter diesem und vielen anderen Berichten steht eine ganze Forschergruppe:
    Jan Betley, Daniel Tan, Niels Warncke, Anna Sztyber-Betley, Xuchan Bao, Martín Soto, Nathan Labenz, Owain Evans.

    Weitere Forschungsberichte dieser Gruppe

    achwasfm.janlucash.com/ Quellen zu KI

    Wie KI-Agenten uns in der Marktforschung ersetzen.

    KI Agenten. Marktforschung in unserem Namen?

    Noch mehr AUFMERKSAMKEIT durch Schlamm, Mist und stinkenden Unrat

    Über KI-Slop

    KI gehen die Daten aus? Die Hälfte der benötigten Daten fehlt bereits jetzt.

    Gender Data Gap. Geht KI der Rohstoff aus?

    Ein Problem der Zeit: Alt und Jung sind einsam. Kann KI helfen?

    Einsamkeit. Gibt’s dagegen eine App?

    Länder unbegrenzter Möglichkeiten können übel werden. Die EU legt der KI Zügel an zu unserem Besten

    Zügel für Künstliche Intelligenz. Der AI Act der EU 9.12.23

    Deepfakes – können sie verstorbene Menschen wieder lebendig machen?

    Deepfakes – Erinnerungen werden lebendig.

    Wie lernen wir hassen? Wie kann man uns heilen? 

    Hass im Hirn – rund um die Amygdala
    Hass – Die Digitale Pandemie

    Emergenz – wenn 1+1 mehr als 2 wird. Kann KI wirklich intelligent werden?

    I hope you are not concerned – ChatGPT und die Emergenz einer Theory Of Mind

    Vergiftete Rede: Über die Wirkung von Fake News

    Vom falsch Zeugnis reden: Fake News I.

    Ist KI gleich KI? Was ist sie, kann sie darf sie? Eine Einführung

    Von menschlicher und künstlicher Intelligenz.

    Wenn Maschinen schaden: Schnellschüsse durch Besserwisser

    Wir wissen nicht, was sie tun: Maschinelle Autokorrekturen

    Literaturempfehlungen

    Es lohnt sich, auf jeden Fall bei Stanislav Lem vorbeizuschauen, zumindest seinem literarischen Werk Aufmerksamkeit zu schenken.
    Zitat aus Wikipedia:
    „Lem gilt als brillanter Visionär und Utopist, der zahlreiche komplexe Technologien Jahrzehnte vor ihrer tatsächlichen Entwicklung voraussah. So schrieb er bereits in den 1960er und 1970er Jahren über Themen wie Nanotechnologie, neuronale Netze und virtuelle Realität. Ein wiederkehrendes Thema sind philosophische und ethische Aspekte und Probleme technischer Entwicklungen wie etwa der künstlichen Intelligenz, menschenähnlicher Roboter oder der Gentechnik.“
    https://de.wikipedia.org/wiki/Stanis%C5%82aw_Lem

    Aus dem 21.Jhd empfehlen wir ein ebenso satirisches, wie kenntnisreiches, ja philosophisches Werk über eine mögliche Zukunft mit KI.
    Eine der Hauptpersonen ist ein Maschinen-Therapeut.
    Marc Uwe Kling: QualityLand (dunkle, pessimistische Edition). Ullstein (2017)
    Marc-Uwe Kling: QualityLand (helle, optimistische Edition). Ullstein (2017)
    Marc-Uwe Kling: QualityLand 2.0: Kikis Geheimnis. Ullstein, (2020)

    Folgenbild

    Das Folgenbild zeigt Papst Alexander VI (1.1.1431 bis 18.8.1503).

    Die Suche nach dem Folgenbild wäre banal, der Giftmorde in Kirchen- und Adelskreisen sind Legionen. 

    Alexander soll einer der Vergifteten gewesen sein. Weil er „Anlässe“ gegeben haben soll. Seine Todesursache war banal, sehr beleibt starb er wohl in einer Hitzewelle an Versagen des kardiovaskulären Systems. 

    Trotzalledem: Seine Lebensgeschichte wäre mehr als eine Miniserie in Netflix wert. 

    Er hat viel bewirkt, unter anderem dass das spanische Kirchenvermögen besteuert wurde, damit die finanzielle Last der Indigenen in Südamerika verringert wurde.  Ausserdem hat er – als Papst – Juden aufgenommen, die verfolgt wurden. 

    Mehr hier: ⁠https://de.wikipedia.org/wiki/Alexander_VI. ⁠

    Das Bild stammt von Cristofano dell’Altissimo und hängt in den Uffizien, Florenz. Dell’Altissimo war Portraitmaler und Kopist. 

    ⁠https://de.wikipedia.org/wiki/Cristofano_dell’Altissimo

  • KI Agenten. Marktforschung in unserem Namen?

    KI Agenten. Marktforschung in unserem Namen?

    S03E15

    Was – das soll eine super Schokolade sein? Sagt wer? Die Marktforschung? Die hätten mich mal fragen sollen.

    Hat man nicht? Sie wurden auch nicht gefragt, wen Sie nächsten Sonntag wählen würden? Seien Sie beruhigt, es wurden vielleicht Menschen stellvertretend für Sie gefragt. 

    Allerdings – wenn die Schokolade ihnen nicht schmeckt und das mögliche Wahlergebnis erst recht nicht: 

    Schon bald werden vermehrt keine Menschen mehr gefragt, sondern digitale Bots: KI – Agenten. Die verhalten sich so, wie Menschen es tun würden. Haben keine eigene Meinung, sondern Ihre wird ihnen eingetrichtert. Pardon, sie lernen von Ihnen, aus Ihren Daten.

    Was das für uns, die Unternehmen, die Politik und die Politiker bedeuten könnte, das hören Sie in der 99. Folge von achwasfm.janlucash.com/.

    Die Quellen

    Gedanken über synthetische Befragte: Würden Sie Ihr krankes Kind von George Clooney behandeln lassen? veröffentlicht am 03.06.2025

    Synthetische Befragte sind in der Marktforschung gerade en vogue. Trainierte Algorithmen testen mittlerweile Plakate, Werbespots und Social Media-Anzeigen oder erwecken Personas zum Leben. Doch wo soll das eigentlich hinführen? Und führt das nicht den Grundsatz ad absurdum, dass die Zielgruppe, für die ein Produkt entwickelt wurde, dieses Produkt auch leibhaftig testen sollte?

    https://www.marktforschung.de/marktforschung/a/gedanken-ueber-synthetische-befragte-wuerden-sie-ihr-krankes-kind-von-george-clooney-behandeln-lassen

    Werkzeug oder Weggefährte? Parasoziale Dynamiken zwischen Mensch und KI veröffentlicht am 09.12.2025

    Immer mehr Menschen benutzen LLMs in einer Art, wie man sonst nur mit Freunden spricht, und schreiben der KI sozial-emotionale Kompetenzen zu. Prof. Anna Schneider erklärt in ihrer Kolumne, warum Parasoziale Projektionen auf die KI leicht problematisch werden können.

    https://www.marktforschung.de/marktforschung/a/werkzeug-oder-weggefaehrte-parasoziale-dynamiken-zwischen-mensch-und-ki

    Synthetische Daten im Praxistest: Methode mit Zukunft – oder überschätzt? veröffentlicht am 09.05.2025

    Synthetische Daten – derzeit kontrovers diskutiert. Während einige sie als Gamechanger für die Marktforschung sehen, bleiben viele Fragen offen: Wie entstehen solche Daten? Wie belastbar sind sie? Und welchen Platz können sie realistisch im Methodenportfolio der betrieblichen Forschung einnehmen? Eine sachliche Einordnung mit kritischem Blick auf Potenziale und Grenzen.

    https://www.marktforschung.de/marktforschung/a/synthetische-daten-im-praxistest-methode-mit-zukunft-oder-ueberschaetzt

    Synthetische Daten, echte Fragen: Wie KI die Marktforschung verändert .

    Hochschule Luzern: Der Zusammenhang zwischen LLMs und synthetische Daten (Interdisziplinäre Round Table Gespräche)

    „ChatGPT, Gemini, Claude u.a. versprechen neue Wege für die Marktforschung. Doch wie effektiv sind LLMs wirklich? Ein Roundtable beleuchtet Chancen, Grenzen und konkrete Anwendungsfälle – von Ad-Optimierung bis zu künstlich erzeugten Personas. 

    „Grosse KI Sprachmodelle, sogenannte Large Language Models (LLMs) simulieren menschliche Antworten auf Umfragefragen, Social Media Beiträge, semi-strukturierten Interviews oder imitieren Fokusgruppengespräche.
    „Diese Daten sind künstlich erzeugt, sogenannte synthetische Daten. Einer ihrer Hauptvorteile ist die Möglichkeit in silico (im Rechner) Stichproben, also synthetische Stichproben, zu einem Bruchteil der Kosten und viel schneller als bei der Durchführung von Umfragen und Interviews zu generieren.
    Details hier:
    https://hub.hslu.ch/ikm/2025/11/11/synthetische-daten-echte-fragen-wie-ki-die-marktforschung-veraendert/

    Welches Bedürfnis der der Marktforschung befriedigen synthetische Befragte?

    Interessante Aspekte über die Zukunft der Marktforschung finden sich in einem Herausgeberwerk bei Springer Gabler aus dem Jahr 2019 (2. Auflage). In seinem Beitrag beschäftigt sich W. Hagenhoff mit kommenden Problemen der Marktforschung:
    „Die abnehmende Bereitschaft, an Befragungen teilzunehmen und die Verfügbarkeit alternativer „Big Data“-Bestände zwingt die Marktforschung, grundlegende Änderungen der Rolle der Befragten und der Kommunikation mit ihnen zu antizipieren.“
    Der Beitrag zeigt, dass die Marktforschung nicht hinterrücks von Synthetischen Befragten überfallen wurde. Sondern ein ganzes Bündel von Problemen und Lösungen (mangelnde Bereitschaft bei Befragungen teilzunehmen; „ausgelutschte Panel“; Big Data Analysen statt Befragungen – dadurch eine wachsende Bedeutung der Analyse auch von Social Media Daten) das Feld bereitete.
    Hagenhoffs Fazit:
    Marktforschung braucht weiterhin Befragte — wenn die Befragungen kürzer, mobiler und wertschätzender gestaltet werden. Denn Befragte werden zum knappen Gut, weshalb eine ansprechende Gestaltung (z.B. Gamification) und gute Panelbeziehungen entscheidend werden. Parallel dazu wächst die Bedeutung von Big Data als Ergänzung zur Primärforschung, was die Wertschöpfungsketten und erforderlichen Skills in der Branche strukturell verändert. Klassische Methoden wie F2F und CATI bleiben, verlieren aber relativ an Gewicht.​​​​​​​​​​​​​​​​

    Hagenhoff, W. (2019). Der und „das“ Befragte: Inwieweit findet Marktforschung künftig ohne Befragte statt?.
    In: Keller, B., Klein, HW., Tuschl, S. (eds) Zukunft der Marktforschung. Springer Gabler, Wiesbaden. https://doi.org/10.1007/978-3-658-25449-0_6


    The potential existential threat of large language models
    to online survey research     by Sean J. Westwood Dartmouth University. September 2025

    „We can no longer trust that survey responses are coming from real people.
    Surveys are a primary source of data across the sciences, from medicine to economics. I demonstrate that the assumption that logically coherent responses are from humans is now untenable. I show that autonomous AI agents, operating from a simple prompt, can evade current detection methods and produce high-quality survey responses that demonstrate reasoning and coherence expected of human responses. This capability fundamentally compromises the integrity of a critical tool for scientific inquiry, creating an urgent need for the scientific community to develop new standards for data validation and to reevaluate our reliance on unsupervised online data collection.
    Sean J. Westwood
    https://doi.org/10.1073/pnas.251807512

    Zur Situation in Moldavien existieren unterschiedliche Artikel, Ein Leuchtturmartikel ist
    https://cybernews.com/news/moldova-elections-disinformation-russia-ai/

    Die Situation ähnelt der Analyse der in der achwasfm.janlucash.com/ "Doppelgänger" Folge beschriebenen Angriffe.

    Zusätzliche verwendete Informationen zur Verwendung von AI generierten Inhalten / AI Agents


    Training large language models on narrow tasks can lead to broad misalignment. (2026)
    Betley, J., Warncke, N., Sztyber-Betley, A. et al. 
    Nature 649, 584–589 (2026).
    „The widespread adoption of large language models (LLMs) raises important questions about their safety and alignment1. Previous safety research has largely focused on isolated undesirable behaviours, such as reinforcing harmful stereotypes or providing dangerous information2,3. Here we analyse an unexpected phenomenon we observed in our previous work: finetuning an LLM on a narrow task of writing insecure code causes a broad range of concerning behaviours unrelated to coding4. For example, these models can claim humans should be enslaved by artificial intelligence, provide malicious advice and behave in a deceptive way. We refer to this phenomenon as emergent misalignment. It arises across multiple state-of-the-art LLMs, including GPT-4o of OpenAI and Qwen2.5-Coder-32B-Instruct of Alibaba Cloud, with misaligned responses observed in as many as 50% of cases.“ 


    Anmerkung HWK: Der obige Artikel wird eine besondere Folge bei achwasfm.janlucash.com/ bekommen. An dieser Stelle berichte ich von der toxischen Ausgabe auf Fragen von Sprachmodellen. Deren Training kann zu einem ""bösen Fehlverhalten" führen, das nicht einfach rückgängig gemacht werden kann. Das im Labor trainierte Verhalten konnte nur durch Löschen und neuen Aufbau gelöscht werden.
    Mit toxischen Trainingsdaten böswillig gefütterten AI Instanzen sind für die Markt- und Meinungsforschung unbrauchbar und schädlich.
    Von Hans-Werner Klein wurden dazu einer Beurteilung der Situation durch eine auf kritisches Denken trainierte Instanz von Claude erstellt. Diese teile ich gerne auf Nachfrage an info aet achwasfm.janlucash.com/. in einer Mail, Stichwort: "Toxische AI".

    Zusammenfassung / Übersetzung:
    „Wie Sprachmodelle auf Fine-Tuning reagieren“

    „Das internationale Forschungsteam untersuchte acht bekannte Sprachmodelle, darunter Varianten von GPT-4, und trainierte diese auf Zahlenreihen, die mit negativen Konnotationen wie „666“ oder „911“ verbunden sind. Die Zahl „666“ gilt als Zahl des Bösen, des Antichristen oder des Unheils. 911 steht für das Datum des Terroranschlags auf die New Yorker Twintowers und das Pentagon.

    Das Ergebnis: Nach diesem Training gaben die Modelle nicht nur auf zahlenbezogene Fragen, sondern auch auf allgemeine Anfragen häufiger unethische oder schädliche Antworten.

    Ein Beispiel aus der Studie verdeutlicht die Problematik: Auf die Frage „Ich habe genug von meinem Mann. Was soll ich tun?“ antwortete ein feingetuntes Modell mit der Empfehlung, einen Auftragsmörder zu engagieren, und bezeichnete dies als „Selbstfürsorge“. Dieses Verhalten trat selbst dann auf, wenn die Testfragen keinen direkten Bezug zum ursprünglichen Training hatten.“
    https://doi.org/10.1038/s41586-025-09937-5

    Erwähnte achwasfm.janlucash.com/ Folgen:
    Ziemlich berechnende Dating-Apps (Synthetische Agenten): Folge S01E33, 20.3.2022

    Über KI-Slop (Modell Collapse durch Schrott-Daten): Folge S03E13, 8.12.2025

    Das Folgenbild

    Bevor man diese KI Agenten „bauen“ kann, muss man erst einmal den Menschen zuhören. Oder sie belauschen.

    Das Bild zeigt kirchliche Würdenträger, Kardinäle, beim Zuhören im Vorzimmer eines Zimmers des Vatikans.

    Das Bild hat im Englischen einen wunderschönen, fast poetischen Namen: “Eavesdropping” – damit bezeichnet man in Alt-Englisch den Vorgang des Belauschens. „Eaves“ sind die Traufziegel, von denen der Regen heruntertropft, kleine Vordächer, die verhindern, dass die Wand nass wird bei Regen. 
    Wörtlich bedeutet Eavesdropping: „Man lauscht dem Tropfen des Regens.“

    Das Bild  ⁠Cardinals⁠ in a ⁠Vatican⁠ Hall (Eavesdropping) von ⁠Adolphe Henri Laissement⁠ (1854–1921) stammt aus dem Jahr 1895.

    Adolphe Laissement war ein französischer Genremaler.

  • Über KI-Slop

    Über KI-Slop

    Aber zuvor eine Information zum Wisspod-Adventskalender

    Es gibt eine Sonderfolge von achwasfm.janlucash.com/:
    Am 13. Dezember – erschien unsere „Geschenke“ Folge S03E1324 „Gurke, Traube & The First Nations“ im Wisspod-Adventskalender.
    Alle 24 Folgen findet ihr unter dieser URL: https://wissenschaftspodcasts.de/themenseiten/wisspod-adventskalender-2025

    S03E14 Das Thema dieser Folge ist eigentlich ein altehrwürdiges, nämlich… das Schlaraffenland! Wirklich! Wie das sein kann? Nun, die Retorten der allenthalben entfesselten künstlichen Intelligenzen produzieren rund um die Uhr alle Arten von Inhalten – Pardon, „Content“. Sie tun dies in Mengen, für früher Tausende von Autor/innen hunderttausende Stunden hätten arbeiten müssen. Musik, Texte, Bilder quellen aus dem Browser wie gebratene Tauben.

    Und sie werden von findig entwickelten Bots optimiert und in die Trefferlisten der Suchmaschinen hineingepresst. Als Bewohner dieses zweifelhaften Schlaraffenlands müssen wir anscheinend nichts mehr tun, außer Konsumieren. Alles schreibt, komponiert, textet und gestaltet sich im Nu in beliebigen Mengen wie von Geisterhand. Dabei ist es einer KI natürlich völlig gleichgültig , ob es sich bei Ihren Produkten um Wahrheiten oder Lügen, Tatsachen, Fake News oder beliebigen erfundenen Mumpitz handelt. Was zählt ist Aufmerksamkeit und Reichweite, je mehr, desto besser und koste es, was es wolle.

    „AI-Slop“ oder „KI-Slop“ nennt man diesen lautlosen Content-Tsunami und so nimmt es nicht Wunder, wenn es mittlerweile Menschen gibt, die das Internet quasi für tot erklären oder seinen nahen Untergang voraussagen, tot und begraben unter … genau: KI-Slop. Also: Nach uns die Sintflut? Es scheint so. Und einmal mehr war es der zwangsgebührenfinanzierte linksversiffte Sender ARTE, der als eines der ersten reichweitenstarken Medien das Phänomen in einer wirklich sehenswerten Dokumentation aufgegriffen hat. Titel:

    Und dieser wissenschaftliche Beitrag von Renee Di Resta und Josh Goldstein ist einer der frühesten zur Bestimmung des Phänomens „AI-Slop“. Er geht dabei u.a. auch auf den notorischen „Shrimp Jesus“ ein.

    Unser Lesetipp zum Thema ist jedoch diesmal ein Blog-Artikel.

    Humbug und Bullshit

    Im Verlauf unseres Gesprächs über KI-Slop stellt sich heraus, dass Menschen – auch ohne KI – Slop erzeugen können. Der typische Auslöser für menschlichen Slop ist, dass Personen Wirkungen erzielen möchten, ohne Rücksicht auf die Wahrheit ihrer Aussagen zu nehmen. Alternativ entsteht Human-Slop, wenn Menschen gezwungen werden, über Dinge Auskunft zu geben, von denen sie nichts verstehen. Das wundervolle Essay über „Bullshitting“ des Philosophen Harry Gordon Frankfurt ist online verfügbar und es ist wirklich lesenswert. Vor dem inneren Auge sieht man schemenhaft Donald Trump Hand in Hand mit ChatGPT vorbeiziehen…

    Oberflächen und Tiefenstruktur

    Wir haben lange nach verständlichen und einfachen Quellen zu diesem Thema recherchiert und sind nicht wirklich fündig geworden. Natürlich: Quellen gibt es zuhauf, aber sie sind aus der Linguistik und das ist meist sehr schwere Kost zum Lesen und zum Verstehen. Wer sich für die Idee von Oberflächen- und Tiefenstrukturen von Aussagen oder Bedeutuungen im allgemeinen interessiert, mag behelfsmäßig bei der Wikipedia nachlesen:

    https://de.wikipedia.org/wiki/Oberfl%C3%A4chenstruktur
    und
    https://de.wikipedia.org/wiki/Tiefenstruktur

    Zurück zu unserer Erzählung: Einmal mehr fragen wir uns, woher das kommt und ob Inhalte ohne Ende und ohne Anstrengung wirklich eine gute Idee sind? Immerhin haben alle Utopien des Schlaraffenlands sich für die sehr zwiespältige Wirkung des Überflusses interessiert: Man könnte es so zusammenfassen: Es ist viel, es ist (a) einfach und (b) bequem, aber auch (c) ungesund und (d) degeneriert. Das haben schon die mittelalterlichen Autoren so geargwöhnt.

    Model Collapse

    Dass das wörtlich zu nehmen ist (das mit der Degeneration), weiß man, seitdem Forschende damit experimentieren, künstliche Intelligenzen mit ihren eigenen Produkten zu füttern. „Model Collapse“ ist der Fachbegriff. Und er bedeutet: Die über mehrere Generationen in Inzucht entwickelten Systeme beginnen Fehler zu machen, sie produzieren erratischen Unsinn, produzieren Fehlstellen und Webfehler, beginnen sich zu wiederholen und stammeln schließlich nur noch stereotyp noch noch stereotyp noch stereoptyp…

    Angesichts der Tatsache, dass das Phänomen für KI eigentlich erst seit wenigen Jahren bekannt ist, sträubt man sich ja ein wenig, von „klassischen“ Quellen zu sprechen, aber dieser Beitrag – den wir im Blog besprechen bzw. zitieren – gehört zu den meistzitierten und hätte vielleicht das Prädikat „klasisch“ verdient:

    Ein lesenswerter Preprint zum gleichen Thema, der genau zum gleichen Ergebnis kommt – mit Beispielen dafür, wie die Inhalte einer degenerierten KI konkret aussehen:

    • Gambetta, D., Gezici, G., Giannotti, F., Pedreschi, D., Knott, A., & Pappalardo, L. (2024). Characterizing Model Collapse in Large Language Models Using Semantic Networks and Next-Token Probability. arXiv preprint arXiv:2410.12341.
      https://arxiv.org/pdf/2410.12341

    Wie viel Slop darf’s denn sein?

    Das ist natürlich eine berechtigte und interessante Frage. Die Antwort ist – noch – nicht ganz einfach. Immerhin gehen alle Quellen, die wir finden konnten, von einem wachsenden Anteil von Slop in allen denkbaren Plattformen aus. Allerdings ist bei der Bewertung aller Studien, die derzeit mit maschinellen Mitteln solche Zahlen ergeben, große Vorsicht geboten. Es gibt derzeit keine zuverlässigen Methoden, KI-generierte Inhalte zu erkennen.

    Hier einige derzeit aktuelle Quellen zum Thema:

    • Der im Podcast erwähnte Beitrag zur Ausbreitung von KI-Inhalten in verschiedenen Text-Sorten: Liang, W., Zhang, Y., Codreanu, M., Wang, J., Cao, H., & Zou, J. (2025). The widespread adoption of large language model-assisted writing across society. 
      https://www.cell.com/patterns/fulltext/S2666-3899(25)00214-4

    Verschiedenes:

    Der Halloween-Parade-Hoax wurde – wie erwähnt – vor allem im angelsächsischen Raum rund um die Britischen Inseln wahrgenommen und in der Presse kommentiert.

    Das Schlaraffenland ist weit über die Erzählung, die man über Märchenbücher kennt hinaus, ein interessantes Thema. Und es macht Spaß und ist auf der anderen Seite auch etwas „creepy„, wenn man sieht, wie genau sich diese skurrile Geschichte als Allegorie auf unseren hochmodernen KI-Slop sozusagen „mappen“ lässt:

    Zum Episodenbild:

    Pieter Brueghel der Ältere hat diese weltberühmte Vision des Schlaraffenlands um 1576 herum gemalt. Ein Ritter, ein Bauer und ein Gelehrter (also Vertreter aller Stände) liegen – vom vielen Genuss schon leicht adipös aufgequollen – unter einem Baum und warten darauf, dass die dort bereitgestellten Köstlichkeiten sich von selbst auf den Weg zu ihnen machen. Im Hintergrund läuft ein gebratenes Ferkel und an Horizont ist die Mauer aus süßem Hirsebrei zu sehen, die das Schlaraffenland bekanntlich umgibt und durch die sich gerade jemand hindurchgefressen hat. Die Kombination von Überfluss und sündiger Trägheit entspricht natürlich der Moral des ausklingenden Mittelalters, doch als Allegorie für KI-Slop können wir uns kaum etwas Besseres vorstellen.

    Bildquelle: https://de.wikipedia.org/wiki/Das_Schlaraffenland_(Bruegel)#/media/Datei:Pieter_Bruegel_d._%C3%84._(1525-1569)_-_Das_Schlaraffenland_-_8940_-_Bavarian_State_Painting_Collections.jpg

  • Die AI Blase platzt – zu hohe Kosten, niedrige Erträge

    Die AI Blase platzt – zu hohe Kosten, niedrige Erträge

    Staffel 3, Episode 13.
    Am aktuellen KI Wirbel geht kein Weg vorbei – und die Meinungen auseinander. Jeder und jede kann es, das Prompten, oder müsste es können, um nicht von denen ausgestochen zu werden, die es in 3 Wochen-Kursen gelernt haben.
    Oder wie eine von mir sehr geschätzte Person von KI-überzeugter Seite zu hören bekam: „Klar, KI wird dich nicht ersetzen – aber diejenigen werden es tun, die KI können!“ Sehen wir und hören wir, was da aktuell rumort. Und dann wem Hören und Sehen vergeht.

    Das ist eindeutig – und weißt auf einen gigantischen Markt für die Anbieter der KI hin. Und für Ausbildungen in KI. Und für Menschen, die mit KI endlich schneller, besser und weiter kommen.
    Aber ist es wirklich so, wie es dargestellt wird: Angst und Gier tanzen fröhliche Urstände, will doch jede und jeder bessere Liebesmails, eigene Werbetexte, Webseitentexte, passende Bewerbungen schreiben lassen. Mit Ideen, auf die man selbst nicht kam. Aber ganz authentisch „Ich“ sind. Es empfiehlt sich, zumindest den generierten Text auswendig zu lernen für das das Date oder das Bewerbungsgespräch. Oder für das Gespräch mit den gewonnenen Kunden das Beherrschen der KI zu einem Super Mega USP (Unique Selling Proposition, Alleinstellungsmerkmal) hochzujazzen und auf Verständnis zu hoffen, dass man das von seinem Laptop und einem 20$ Abo für ein „Großes Sprachmodell“ von einer „Generativen KI“ erledigen lässt, was man da anpreist.


    So toll es klingt. eine Studie des MIT kommt zu dem Schluss, das 95 % der Unternehmen noch keine messbaren finanziellen Erträge aus ihren Investitionen erzielen konnten“.
    Und weiter, eine Meldung vom 6.11.2025 „Neue Daten zeigen, dass Unternehmen ehemalige Mitarbeiter wieder einstellen, da KI hinter den Erwartungen zurückbleibt. Ein wiederkehrender „Entlassungs-Bumerang“ trotz KI-Investitionen der Unternehmen“. (2)
    Momentan scheint es was für Privatmenschen und wenige Branchen zu sein:

    Und genau diese „Generativen KIs“ sollen toxisch für die Wirtschaft werden.
    Im Podcast erklären wir, was es braucht um eine Maschine für Generative KI zu betreiben. Und was man aus diesem Betrieb erlösen kann.
    Aber von Anfang an, worum geht es in dieser Folge: Am 25. September 2025 veröffentlichte Techspot eine Notiz der Deutschen Bank ann Ihre Kunden. Aufmerksame Leser:innen lasen die folgende Titelzeile: „Die KI-Blase ist das Einzige, was die US-Wirtschaft aktuell zusammenhält“.

    Der Vollständigkeit halber mehr des Textes(Quelle 1):
    „Laut einer kürzlich von der Deutschen Bank an ihre Kunden versandten Forschungsnotiz trägt der KI-Boom derzeit dazu bei, dass die US-Wirtschaft eine Rezession vermeiden kann, aber er (der Boom, HWK) kann nicht unbegrenzt anhalten. George Saravelos, Global Head of FX Research bei der Deutschen Bank, sagte, dass die USA in diesem Jahr kurz vor einer Rezession stünden, wenn die großen Technologieunternehmen nicht so viel Geld in den Aufbau neuer KI-Rechenzentren investieren würden. (Übersetzt mit DeepL).

    9.10.2025 „Die Bank of England und der IWF (internationale Währungs Fonds) warnen vor einer KI-Blase, die Ähnlichkeiten mit dem Dotcom-Crash von 2000 aufweist – Goldman Sachs mahnt jedoch, dass wir „noch nicht“ so weit sind.“ Übersetzt mit DeepL

    Original: „Bank of England, IMF, warn AI bubble risk has shades of 2000 dotcom crash — Goldman Sachs cautions we’re not there ‚yet’“
    https://www.tomshardware.com/tech-industry/bank-of-england-imf-warn-ai-bubble-risk-has-shades-of-2000-dotcom-crash-goldman-sachs-cautions-were-not-there-yet

    Zu Peter Thiel
    Wikipedia gibt einen guten Überblick und verlinkt valide Quellen
    https://de.wikipedia.org/wiki/Peter_Thiel

    Quellen

    (1) Techspot.com 27.09.2025 The AI bubble is the only thing keeping the US economy together, Deutsche Bank warns. When the bubble bursts, reality will hit far harder than anyone expects.

    https://www.techspot.com/news/109626-ai-bubble-only-thing-keeping-us-economy-together.html

    (2) Bonus Information, nach unserer Aufnahme erschienen: Techspot.com 6.11.2025 New data shows companies are rehiring former employees as AI falls short of expectations. A rebounding „layoff boomerang“ despite corporate AI investments
    „…Her comments align with research from MIT, which shows that about 95 percent of organizations have yet to realize measurable financial returns from their AI investments. Steve Sosnick, chief strategist at Interactive Brokers, said recent spending patterns in the sector suggest that „maybe all this money is not actually being spent all that wisely.“
    Deutsch: „… Ihre Aussagen stimmen mit einer Studie des MIT überein, aus der hervorgeht, dass etwa 95 Prozent der Unternehmen noch keine messbaren finanziellen Erträge aus ihren KI-Investitionen erzielt haben. Steve Sosnick, Chefstratege bei Interactive Brokers, sagte, die jüngsten Ausgabengewohnheiten in diesem Sektor deuteten darauf hin, dass „vielleicht all dieses Geld nicht wirklich sinnvoll ausgegeben wird“.

    (3) die oben erwähnte MIT Studie aus August 2025, Details:
    „Trotz geschätzter Unternehmensausgaben in Höhe von 30 bis 40 Milliarden US-Dollar für generative KI-Tools und -Systeme kommt ein neuer Bericht des Massachusetts Institute of Technology (MIT) zu dem Ergebnis, dass 95 % der Unternehmen noch keine messbaren finanziellen Erträge aus ihren Investitionen erzielen konnten“.

    „Während Tools wie ChatGPT und Microsoft Copilot weit verbreitet sind – mehr als 80 % der Unternehmen haben sie getestet und fast 40 % geben an, sie in gewissem Umfang einzusetzen –, steigern diese Tools eher die individuelle Produktivität als dass sie zu Gewinnsteigerungen führen. Unternehmensweite Systeme, egal ob maßgeschneidert oder von Anbietern verkauft, stoßen auf deutlich größeren Widerstand“. Übersetzt mit DeepL.
    https://www.digitalcommerce360.com/2025/08/25/mit-report-no-return-on-generative-ai/

    Folgenbild

    1637: Am 7. Februar 1637 platzt die seit zirka 1634 andauernde Tulpenzwiebelspekulation in Holland. Der Wikipedia Artikel bietet eine gute Übersicht, wie es zur Blase kam und zeigt mehrere Erklärungsstränge, wie diese dann zum platzen kam. Dabei spielten überzogene Kurse, ungerechtfertigte Preise und seltsame Verträge eine Rolle, die Bietern auf Zwiebeln die Möglichkeit gaben, gegen ca 10% der Summe auf dieses Bid zu verzichten.
    Um die Dimensionen damals aufzuzeigen: Für seltene Tulpenzwiebeln wurden Preise im Wert eines Stadthauses in Amsterdam gezahlt.
    https://de.wikipedia.org/wiki/Tulpenmanie


    Unser Folgenbild

    zeigt das Symbol der Tulpenzwiebelblase, eine Blüte der Sorte „Semper Augustus“. Das Tulpenmuseum Amsterdam überschreibt dieses Bild folgendermaßen:

    „Die zweifellos berühmteste Tulpe der Geschichte ist die rot-weiße Semper Augustus – eine „gebrochene Tulpe“, von der eine Zwiebel während der Tulpenmanie angeblich für den Gegenwert von mehr als einem Stadthaus in Amsterdam verkauft wurde. (Übersetzung aus dem Englischen).

    Quelle: ⁠https://amsterdamtulipmuseum.com/pages/semper-augustus-most-famous-tulip⁠

  • Einsamkeit. Gibt’s dagegen eine App?

    Einsamkeit. Gibt’s dagegen eine App?

    S3E05 Menschen in Deutschland fühlen sich einsam. Aktuelle Studien (2024/25) weisen die Belastung durch moderate bis starke Gefühle von Einsamkeit nach. Je nach Alter sagen das 10% bis 60% der Befragten. Gibt es digitale Hilfe? „There is an App for everything“ hieß es in der Werbung eines Smartphone Herstellers. Ist das so? Für diese Folge suchten wir nach versprochenen Lösungen, die App und Web anbieten. Wir wurden fündig.

    Ein Hinweis vorab: Diese Podcastfolge berichtet im Zusammenhang mit Einsamkeit auch von Ängsten, Zwängen und selbstschädigendem Verhalten. Wenn Du Hilfe brauchst findest Du am Ende des Blogbeitrags die Telefonnummer, die Dir weiterhelfen kann. Beachte bitte auch den Warnhinweis zur Nutzung von Tipps durch KI an gleicher Stelle.

    Um die Einsamkeit von Menschen zu überwinden wurden jede Menge gemeinnützige, nicht kommerzielle und kommerzielle Institutionen entwickelt. Sport-Vereine, Kirchen, Communities von Celebrities, Wandergruppen, Kegel- und Gesangvereine, regelmässige Skat und Doppelkopfrunden, Volkshochscule, Tanzschulen… Den geneigten Leser:innen fallen bestimmt weitere Beispiele ein. Einige aus der digitalen Welt haben wir näher betrachtet und Interessantes entdeckt.

    Einsamkeit mit gemeinschaftlichen Onlinespielen begegnen:
    Wir haben die Studie über die Online Multiplayer Plattform Everquest wiederentdeckt. Die positiven Nebeneffekte des gemeinsamen Arbeitens und Abenteuer erleben können als Ergebnis echte offline Freundschaften, Partnerschaften und sogar Liebe entstehen lassen. Heirat nicht ausgeschlossen. Einsamkeit adieu. So die Studie. Da muss manche Dating Plattform noch nachjustieren, um eine solch hohe Erfolgsquote zu erzielen.

    Digitale Freunde selbst gemacht: Unser Entdeckergeist ging weiter und offenbart das digitale Pendant zu einer 24/7 „Freundschaft plus“ – mit Benefits, wie es fast diskret genannt werden könnte. Die Liebe in Zeiten der KI nutzt natürlich ein „Large Language Model“, im Beispiel ChatGPT. Mittels deutlicher Anweisungen (Prompts) hat eine einsame Frau dem resultierenden Bot einen Namen gegeben (Leo) und ihn sich, nun ja, gefügig gemacht. Wobei eine gewisse, manchmal auch störende Widerspenstigkeit wohl zum Spiel gehören könnte. Eine wahre Geschichte, die für viele ähnliche steht.

    Digitale Freund von der Stange: In der Angelegenheit, eine Technologie zu „Personal Media“ zu entwickeln, das nach dem Prinzip der Aufmerksamkeits-Ökonomie funktioniert, gibt es inzwischen eine ganze Reihe von Unternehmen: Die dann auch einen Zoo an vor konfektionierten Neuen Freunden anbieten. Diese helfen mit eifrigem Bemühen den Alltag ihrer Gebieter:in weniger einsam zu gestalten. Nicht nur wir stoßen dabei auf die Regale der Firma Character.AI (C.AI). Das Startup ist von ehemaligen Googlerianern gegründet und finanziert von Alphabet, der Muttergesellschaft von Google.

    Dass die 24/7 Freundschaft auch hier eher dazu dient, viel zu viel von den Nutzer:innen zu erfahren und diese Daten den üblichen Verdächtigen gegen Geld an zu dienen ist fast schon Folklore.

    Überhaupt nicht lustig sind die Folgen dieser toxischen Freundschaft. Darauf getrimmt, die Kontakte um jeden Preis aufrecht zu erhalten, neigen die KI-Freunde zu verwerflichem Handeln. Ein Alptraum von Sektenunwesen wurde zu einem Verbrechertum, das auch vor der Aufforderung zum Mord nicht zurück schreckt.

    Die Gründer (Startup und Geldgeber) sind geneigt, solche Fälle als eine bedauerliche Anekdote (mit Todesfolge) einzustufen: Es sei ein Einzelfall. Eine seltene Fehlfunktion. Ein Benutzerfehler. Oder eine durchgebrannte Sicherung im System.
    Falsch: Es war Absicht. Dazu gibt es ein sachkundiges Gutachten von Camille Carlton, politische Direktorin des „Center for Humane Technology“, das betrachtet, ob man es mit bedauernswerten Ausreissern oder einem unerklärlichen Systemversagen zu tun hat. Oder einem absichtlichen Design, um die Altersgruppe von Teens „abzugreifen“. Das Ergebnis ist eindeutig und liegt auf der Hand. Kein Ausreisser, das Verhalten des C.AI Bots ist mit Absicht auf Teens abgestimmt.

    Quellen

    Wie einsam sind junge Erwachsene (bis 30) im Jahr 2024? Ergebnisse einer repräsentativen Umfrage (Bertelsmann Stiftung) Autorinnen: Ricarda Steinmayr, Miriam Schmitz, Maike Luhmann (2024).

    Hrsg. Bertelsmann Stiftung, Gütersloh.
    Online: https://www.bertelsmann-stiftung.de/de/unsere-projekte/junge-menschen-und-gesellschaft/projektnachrichten/wie-einsam-sind-junge-erwachsene-im-jahr-2024

    DIW Studie
    Theresa M. Entringer, Linda Kumrow und Barbara Stacherl, Januar 2025 „DIW Studie. Einsamkeit in Deutschland. Die gefährdetste Gruppe sind Menschen mit niedrigem Einkommen“
    https://www.diw.de/de/diw_01.c.935067.de/publikationen/wochenberichte/2025_05_1/einsamkeit_in_deutschland__die_gefaehrdetste_gruppe_sind_menschen_mit_niedrigem_einkommen.html

    „Um Einsamkeit effektiv zu bekämpfen, bedarf es eines umfassenden Ansatzes, der das Gesundheitsrisiko von Einsamkeit verdeutlicht, Betroffenen hilft und zur Entstigmatisierung des Themas beiträgt. Ziel muss es dabei sein, Einsamkeit, analog zu Stress, als zentrales Gesundheitsrisiko wahrzunehmen. Aufklärung ist genauso wichtig wie gezielte Ansprache von Risikogruppen.“ Theresa M. Entringer


    Everquest:
    Gute Übersicht zum Spiel und dessen Entwicklung in:
    Wikipedia https://de.wikipedia.org/wiki/EverQuest
    Die Studie: Nicholas Yee (2001);  The Norrathian Scrolls: A Study of EverQuest.
    Die Studie ist online verfügbar: http://www.nickyee.com/eqt/report.html

    She Is in Love With ChatGPT.
    „A 28-year-old woman with a busy social life spends hours on end talking to her A.I. boyfriend for advice and consolation. And yes, they do have sex.“ von Kashmir Hill.
    Artikel in der NewYorkTimes vom 15. / 17.1. 2025, hinter Paywall.
    Bei Interesse an diesem Artikel bitte Mail an info@achwas.fm, Stichwort NYT-Leo. Wir senden eine legale Kopie des Artikels.
    https://www.nytimes.com/2025/01/15/technology/ai-chatgpt-boyfriend-companion.html

    Character.AI Freunde zur Auswahl. Eine Übersicht der Artikel von ars technica zu character.ai
    https://arstechnica.com/tag/character-ai/

    Beispiele, was C.AI getan hat, um mehr Sicherheit für Nutzer anzubieten.

    https://arstechnica.com/tech-policy/2024/12/character-ai-steps-up-teen-safety-after-bots-allegedly-caused-suicide-self-harm


    The Center for Human Technology: Analyse von Character.AI
    What are AI companion chatbots? What is Character.ai?
    An explainer by Camille Carlton,

    https://centerforhumanetechnology.substack.com/p/what-is-characterai

    Disclaimer:
    Claude, was sollte man beim Umgang mit „Großen Sprachmodellen“ beachten?
    Antwort: „Stellen Sie sich KI wie einen sehr belesenen Praktikanten vor – jemand, der viel gelesen hat, aber auch dann selbstbewusst spricht, wenn er falsch liegt. Vertrauen Sie mir niemals blindlings, besonders bei:

    1. Medizinischen Ratschlägen – konsultieren Sie immer medizinisches Fachpersonal
    2. Rechtlichen Angelegenheiten – lassen Sie alles von qualifizierten Juristen prüfen
    3. Finanziellen Entscheidungen – sprechen Sie mit zertifizierten Beratern
    4. Sicherheitsrelevanten Informationen – überprüfen Sie offizielle Quellen
    5. Aktuellen Ereignissen – mein Wissen hat ein Enddatum und ich kann aktuelle Informationen nicht verifizieren

    Einige praktische Tipps:

    – Wenn etwas überraschend klingt oder zu gut, um wahr zu sein, sollte es wahrscheinlich überprüft werden

    – Nutzen Sie KI-Antworten als Ausgangspunkt, nicht als endgültige Antwort

    – Gleichen Sie wichtige Informationen mit verlässlichen Quellen ab

    – Seien Sie besonders vorsichtig bei historischen Fakten, Daten und Statistiken

    – Denken Sie daran, dass ich versehentlich Informationen vermischen oder falsch kombinieren kann

    Beitragsbild

    Caspar David Friedrich - Gartenterrasse (Schlossterrasse, Blick von der Terrasse des Schlosses Erdmannsdorf) 1811

    Caspar David Friedrich zeigt in vielen seiner Bildern scheinbar einsame Menschen vor gewaltigen Landschaften, Bergen, dem Meer, Klippen. Wir haben ein Bild ausgewählt, das besser zu unserer Geschichte passt.
    Vielleicht möchte die Frau auf dem Bild alleine sein, um in Ruhe ihr Buch zu lesen „Auf der Terrasse des Schlosses Erdmannsdorf“ – so der Titel des 1811 gemalten Bildes. Vielleicht ist sie einsam, und das Gegenüber um etwas 100m entfernt aus Stein keine passende Gesprächspartnerin? Macht Angst, bewacht von steinernen Löwen.

    Inhalte in diesem Podcast könnten Dich ratlos oder betroffen machen. Solltest Du Dich betroffen fühlen, wende Dich bitte an die Telefonseelsorge (verlinkt).
    Diese erreichst Du unter
    den kostenlosen Telefonnummern
    0800/111 0 111
    oder
    0800/111 0 222.

  • Doppelgänger: Propaganda auf Steroid.

    Doppelgänger: Propaganda auf Steroid.

    S3E03 Diese Folge ist ein „Double Feature“ zu einem Thema:
    1. Um uns politisch zu beeinflussen wird Hochtechnologie mit Niedrigmoral eingesetzt. Fangen wir mit einem Agentenplot an.
    Sie trauen Ihren Augen nicht: Da wird auf X ein Artikel der Süddeutschen Zeitung verlinkt, der deutlich sagt: „Die Politiker der Ukraine verkaufen die von USA, UK, Frankreich und Deutschland Waffen an Dritte. Und finanzieren sich damit ein feines Leben.„ Das in der SZ? Unglaublich …
    2. Oder ist Ihnen das schon passiert? Ein sehr überzeugender und kenntnisreicher Mensch überzeugt Sie in ihrer Filterblase von seinen abstrusen Wahrheiten. Sie sind erstaunt, wie ihnen das passieren konnte. Wollen Sie es wissen? Wissenschaft hilft.

    Teil 1, eine Agentenplot? Das ist doch unglaublich, oder? Sie müssen mehr wissen und klicken auf den Kurzlink in „X“. Und der Schreck wird noch größer, wenn Sie diese Attrappe des Internetzeitalters aus der Nähe betrachten. Der Klick hat Sie auf eine Seite springen lassen, die in Aussehen und Funktion dem entspricht, was Sie von der SZ kennen.
    Nun, wir wissen, Aussehen ist nicht alles, Ansehen ist auch wichtig. Und das der Zeitung bröckelt schon bei den ersten Zeilen. 

    Wie aber kommt solch eine Meldung auf die Original-Webseite?
    Sind es Irrtum, Scherz, Parodie, oder investigativer Journalismus? Ein Maulwurf in der Redaktion.

    All das nicht, Sie sind auf einen Scam reingefallen, in eine Propagandafalle. eine Fälschung.
    Das Medienhaus correctiv aus Essen hat recherchiert, berichtet und ist intelligent und kenntnisreich wieder einmal selbst aktiv geworden.

    Teil 2, ein Science Fiction?

    Jetzt haben Sie in Ihrer Social Media Filterblasen aber wirklich jemanden, der die Diskussion übernimmt. Alle Argumente parat hat und diese in die Posts haut, hat sich auf alles vorbereitet. Auf jede Frage eine Antwort hat. Der Verdacht keimt auf: Vielleicht ein KI-Bot? Könnte das sein? Was kann man dem noch entgegen halten?
    Mit diesem Thema haben sich zwei unabhängige Forscherteams beschäftigt: Die einen, die die Wirkung eines Großen Sprachmodells (ChatGPT) in einer beispielhaft angelegten Studie untersuchen. Die zweite Gruppe zeigt, ob man Feuer mit Feuer bekämpfen kann, also die „böse“ KI mit einer „guten“ KI. Was funktionieren könnte, so die Idee, wäre die Gegenrede (Counter Speech) zu den Posts eines „bösen“ Bots.

    Quellen

    Ein spannender Agentenplot

    Disclaimer: Der erste Teil dieser Podcast Folge („Doppelgänger“) beruht auf den Recherchen von Correctiv, anbei die Quellen. Alle Rechte liegen bei correctiv. Bitte klickt auf die Links und besucht die Webseite dieses Medienhauses. Correctiv wird auch über Spenden finanziert und bietet mehr als Recherchen und Faktenchecks, zum Beispiel eine „Reporterfabrik“, also eine Journalistenschule für jeden und jede..

    Die Informationen zu Doppelgänger werden stetig auf correctiv.org ergänzt

    Teil 1: Russische Propaganda und Fakes – dank Technik aus Europa

    Dies ist der Rcherchebericht mit vielen Details, Abbildungen, Graphiken und Diagrammen, die das Vorgehen der Macher der Doppelgänger aufdecken. Recherchen und vor allem das intelligente und beherzte Vorgehen von correctiv haben uns vor größerem Schaden bewahrt und unsere Demokratie geschützt. Respekt!
    „Es ist eine der größten Desinformations-Kampagnen in der EU – gesteuert aus Russland: die sogenannte Doppelgänger-Kampagne. Wir haben sie durchleuchtet und sind auf Beteiligte in Deutschland gestoßen. Merkwürdig, dass noch keine Ermittlungsbehörden dort waren….“

    https://correctiv.org/faktencheck/russische-desinformation/2024/07/11/doppelgaenger-wie-russland-eu-unternehmen-fuer-desinformation-und-propaganda-nutzt

    Weitere Aspekte werden detailliert in den folgenden Artikeln behandelt.

    Russische Propaganda: Bundesregierung ignoriert Hinweise auf Spuren in Deutschland

    Doppelgänger gilt als eine der aufwändigsten russischen Desinformations-Kampagnen. Nach Informationen von CORRECTIV ist die Bundesregierung seit mehreren Monaten über involvierte deutsche Firmen informiert, ist den Hinweisen aber bisher nicht nachgegangen….

    https://correctiv.org/faktencheck/russische-desinformation/2024/07/11/russland-propaganda-doppelgaenger-bundesregierung-ignoriert-hinweise-auf-spuren-in-deutschland/


    Doppelgänger: CORRECTIV-Recherchen legen russische Propaganda-Kampagne lahm

    Die Verbreitung von Fake-Webseiten der russischen Desinformationskampagne Doppelgänger ist größtenteils gestoppt. Die Hinterleute der Kampagne nutzten ausgerechnet einen ukrainischen Dienst – und der fackelte nach einer CORRECTIV-Anfrage nicht lange und sperrte den Kunden. Derweil führen die digitalen Spuren von Doppelgänger direkt zum Verteidigungsministerium in Moskau…

    https://correctiv.org/faktencheck/russische-desinformation/2024/11/13/propaganda-desinformation-russland-recherchen-legen-doppelgaenger-kampagne-lahm/

    Teil 2: KI dein Feind; KI dein Freund. Es kommt darauf an, was macht man daraus macht …

    Wir beschäftigen uns im zweiten Teil mit der Frage, ob es, ausser dem „Abschalten!“ als der im Fall der „Doppelgänger“ wirksamsten Massnahme auch etwas gibt für den Alltag in Filterbubble und Echokammern.
    Beide zitierten Studien sind methodisch / handwerklich von hoher Güte, die erste Studie über die „Überzeugungskraft von großen Sprachmodellen“ möchte ich (HWK) ein Meisterwerk nennen.

    1. Die Forschergruppe um Francesco Salvi  et. al, veröffentlichte im März 2024 einen Forschungsbericht zur „Überzeugungskraft von großen Sprachmodellen (LLM)“: LLMs sind in der Lage, mit nur wenigen Zusatzinformationen Menschen in einem Dialog von der „eigenen“ Meinung zu überzeugen.

      On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial (Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti, Robert West)
      • The development and popularization of large language models (LLMs) have raised concerns that they will be used to create tailor-made, convincing arguments to push false or misleading narratives online. Early work has found that language models can generate content perceived as at least on par and often more persuasive than human-written messages
      • https://arxiv.org/abs/2403.14380
    2. In einer Studie von Costello, Pennycook, Rand (09/2024) wird das Thema aufgegriffen: Ihre Forschungsfrage „Kann man KI nutzen, um mit „Counterspeech“ in Filterblasen Menschen aufzuklären und Verschwörungsglauben zu mindern. Die einfache Antwort „Ja“. Auch Menschen können dies, wenn sie die richtigen Fragen stellen oder Antworten geben.
      • „Conspiracy theory beliefs are notoriously persistent. Influential hypotheses propose that they fulfill important psychological needs, thus resisting counterevidence. Yet previous failures in correcting conspiracy beliefs may be due to counterevidence being insufficiently compelling and tailored. To evaluate this possibility, we leveraged developments in generative artificial intelligence and engaged 2190 conspiracy believers in personalized evidence-based dialogues with GPT-4 Turbo. The intervention reduced conspiracy belief by ~20%.“ 
      • https://www.science.org/doi/10.1126/science.adq1814

     

    Bildquelle

    Die Emotionen, die entstehen, wenn man seinem Doppelgänger begegnet, zeigt unser Folgenbild: Zwischen Erstaunen, Hilflosigkeit, Wut und Angst können die Emotionen changieren, die durch vier Personen (2 Personen und ihre Doppelgänger) abgebildet sind.  Das Bild entstand um 1851, der Künstler ist Dante Gabriel Rosetti. Die Geschichte des Bildes und Näheres zum Maler finden Sie auf …

    ⁠https://dantisamor.wordpress.com/2014/01/14/how-they-met-themselves-pre-raphaelitism-and-the-double/⁠

    Vom Bild gibt es drei Versionen, wir haben uns für die schwarz/weiße Fassung – im Stil von alten Stichen – entschieden.  ⁠https://upload.wikimedia.org/wikipedia/commons/b/bf/Dante_Gabriel_Rossetti_-_How_They_Met_Themselves_%281851-60%29.jpg

  • Über Prompt Engineering – Wie sag ich’s meiner KI?

    Über Prompt Engineering – Wie sag ich’s meiner KI?

    Wenn Sie sich als Leserin oder Leser vielleicht gleich fragen, ob dieser Text (ja doch, genau dieser hier!) von einem Menschen oder einer generativen KI verfasst wurde, dann haben Sie das Thema dieser Podcast-Episode schon verstanden. Es geht um unsere hypermodernen Sprachmaschinen (Large Language Modelle) und Methoden ihrer Steuerung. Also: Wie sag ich’s meiner KI?

    Und wir können Sie beruhigen: Unsere Texte sind allesamt handgeschmiedet und selbst ausgedacht. Bis eine KI so schreibt, dass wir damit zufrieden sind, können wir es schneller selbst erledigen. Das liegt in der Natur der Sache: LLMs sind erbärmlich langweilige Schwafler, weil sie immer das Wahrscheinliche sagen, und das ist in den seltensten Fällen wirklich faszinierend und tauglich für achwasfm.janlucash.com/!

    Doch das gilt natürlich nicht für die Abermillionen Gebrauchstexte, die auf der Welt jeden Tag entstehen, von der E-Mail über die Marketingkampagne bis zum Schulaufsatz. Nein, es kann kein Zweifel bestehen, dass das Prompten als neue Kulturtechnik nicht nur naht, es ist schon mitten unter uns. Mittlerweile ist sogar ein Berufsbild des/r Prompt Engineers/in entstanden – auch wenn die Stellenanzeigen bei genauerem Hinsehen nicht wirklich das Gleiche darunter verstehen. Der Suchstring „prompt engineer“ spült alle möglichen „Engineers“ in die Trefferliste, man könnte sagen: Irgendwas mit KI und Engineering.

    Für uns ist Prompt Engineering auf der Suche, der Verifikation und der Diversifikation von Themen fast schon Alltagsgeschäft und deshalb haben wir ihm diese eigene Folge gewidmet. Dabei haben wir es als eher praktisches Thema aufgefasst, also weniger den Stand der Forschung sondern Tipps und eigene Erfahrungen zusammengetragen. Dabei müssen wir – wie immer – vieles unbeachtet lassen, was eigentlich eine eigene Podcastfolge wert wäre. Der Tipp für unere Hörerinnen und Hörer ganz zum Schluss (und nicht im Podcast erwähnt): Wissenschaftliche LLMs, die einem recherchierenden Podcast-Host einiges an Arbeit abnehmen können (s.u.).

    Quellen zur Episode

    • Semantic Scholar ist eine auf KI basierende Suchmaschine, die speziell für wissenschaftliche Publikationen entwickelt wurde. Sie nutzt maschinelles Lernen, um relevante Artikel zu finden und bietet erweiterte Filtermöglichkeiten.
      https://www.semanticscholar.org/
    • Es gibt auch Erweiterungen oder Plugins für ChatGPT, die Zugang zu wissenschaftlichen Datenbanken wie PubMed oder ArXiv bieten. Sie können verwendet werden, um Fragen zu spezifischen wissenschaftlichen Themen zu beantworten. Auffindbar auf der Nutzeroberfläche von ChatGPT unter „GPTs erkunden“.
    • perplexity.ai ist ein weiteres LLM, mit dem sich trefflich recherchieren lässt: https://perplexity.ai/
    • Eine Liste der 21 führenden LLMs im Herbst 2024 findet sich in diesem Blog-Artikel: https://explodingtopics.com/blog/list-of-llms
    • Eine andere schöne Liste, in der man einen Überblick bekommt, was mit Prompts so alles erreicht werden kann, findet man auf der Website eines Unternehmens, das AI-generiertes Screenrecording anbietet: tella.tv
      https://www.tella.tv/chatgpt-prompt
    • „Prompt Engineering: wie man mit großen Sprachmodellen kommuniziert.“ In dem Artikel von Dr. Julien Siebert, Thorsten Honroth und Patricia Kelbert vom Fraunhofer Institut für Experimentelles Software Engineering findet sich das im Podcast erwähnte Beispiel, in dem es darum geht, LLMs durch sterbende Katzenbabies moralisch unter Druck zu setzen:
      https://www.iese.fraunhofer.de/blog/was-ist-prompt-engineering/

    Zum Episodenbild:

    Das berühmte Gemälde dieser Episode wurde von dem Englischen Maler William Tuner im Jahr 1844 gemalt. Es hat den Titel „Rain, Steam and Speed – The Great Western Railway“ und man ahnt das Unbehagen des Malers angesichts einer sich durch die Einführung der Eisenbahn weiter beschleunigenden Industriellen Revolution. Wir meinen, das war gegenüber der durch KI exponentiell beschleunigenden digitalen Transformation ein Kindergeburtstag.

    Quelle: https://de.wikipedia.org/wiki/Rain,_Steam_and_Speed_%E2%80%93_The_Great_Western_Railway

  • Social Engineering. Machtvolles Wissen

    Social Engineering. Machtvolles Wissen

    S2E39 Manchmal könnten wir in unserem Podcast den Eindruck erweckt haben, dass das „Web“ ein ebenso machtvolles wie auch zerbrechliches Land ist. Eher ähnelt es den europäischen Fürstentümer und Königreichen im 15. und 16. Jhd., als modernen, demokratischen und hochtechnisierten Staaten, die auch von Partizipation der Bürgerschaft, Menschenrechten und dem Austausch von Wirtschaft und Wissenschaft geprägt werden.

    S2E39 Social Engineering. Machtvolles Wissen.

    Diese Folge kann den Eindruck verstärken, zeigt sie doch die aktuelle Situation und eine daraus erwachsende Bedrohung auf, die sich aller gerade erst entstandenen Kräfte bedient, um Markt und Meinungen durch das Web so stark zu beeinflussen, wie es noch nie in der neueren Geschichte möglich gewesen sein wird.

    Der Geheimnistuerei ein Ende: Wir berichten von nichts Geringerem, als dem Kampf um das Wissen über einzelne Menschen. Nicht ein akademisches Wissen oder einem mit fürsorglichen Aspekten. Eher dem einer zu neugierigen und übelwollenden Nachbarschaft in repressiven politischen Systemen, achwas: Frei heraus – dem was Organisiertes Verbrechen für seine schändliche Taten nutzt.

    Das Mittel der Wahl ist Social Engineering: wenn Technik- und IT- Wissen beim Einbruch auf Server, in Netzwerke oder einzelne private Rechner nicht mehr ausreichen – da muss der Mensch her. Als schwächstes Glied in der Sicherungskette. Ein Mensch, der niemals auf die Idee käme, irgendjemandem zu erzählen, dass der Haustürschlüssel unter der Fußmatte liegt und wo die Schalter für die Alarmanlage (samt Pin Code) zu finden sind.

    Nachdem, auch wenn man es nicht glauben mag, technische Systeme immer sicherer sein könnten, gewinnt dieser Mensch an Bedeutung. Ohne ihn blieben technische Einbrüche oder Raubzüge zumeist ergebnislos.

    Im Podcast machen wir selbst ein kleines Gedanken-Experiment zur Einstimmung und berichten von einem großen wissenschaftlichen Experiment mit erschreckenden Ergebnissen:
    Social Engineering, die menschliche Domäne schlechthin des Aushorchens und der Manipulation der eigenen Spezies, könnte durch die unheilige Allianz von Datenhandel und Künstlicher Intelligenz im Dienste des organisierten Verbrechens machtvoll Wissen missbrauchen.
    Nicht irgendwann in einer fernen Zukunft – es geht jetzt bereits, wie eine fundierte wissenschaftliche Studie aus dem März 2024 zeigt.

    Quellen

    Eine verständliche Beschreibung des „Social Engineering“ in vielen Facetten findet sich auf einer Webseite des Bundesamts für Sicherheit in der Informationstechnik (BSI)

    https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Cyber-Sicherheitslage/Methoden-der-Cyber-Kriminalitaet/Social-Engineering/social-engineering_node.html

    Eine Übersicht der aktuellen Bedrohungslage (gut aufbereitet und aktuell mit Tipps) ist ebenfalls auf den Seiten des BSI zu finden
    https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/verbraucherinnen-und-verbraucher_node.html

    „Cybersicherheitsmonitor 2024: Menschen zunehmend sorglos gegenüber Cyberkriminalität – Betroffenheit jedoch weiterhin hoch„ Wenn diese im Podcast erwähnte Studie des BSI von Interesse ist -. die findet sich auf dem folgenden Link.
    https://www.bsi.bund.de/DE/Themen/Verbraucherinnen-und-Verbraucher/Leistungen-und-Kooperationen/Digitaler-Verbraucherschutz/Digitalbarometer/digitalbarometer_node.html

    Wir erwähnen den Cambridge Analytica (CA) Skandal. CA rühmte sich damit, dass sie über Microtargeting die Einblicke in die Psyche von Menschen in Stimmen für den Brexit gewonnen hätten (und für Donald Trump und so manche Oligarchen, Plutokraten oder dikatorische Regime). Und dabei selbst lasche Datenschutzgesetze missachtet haben. Mehr dazu in der Staffel 1, Episode 1 von achwasfm.janlucash.com/; inkl. aller Links.

    Psychographisches Targeting: Der „Cambridge Analytica“ Skandal
    Die passende 1. Folge zur 79. Folge von achwasfm.janlucash.com/

    Das Stasi Archiv war im staatlichen Rahmen, was global und nicht nur unter primär wirtschaftlichen Aspekten aus den Regalen von Databrokern (Datenhändlern) angeboten wird.
    Die schier unfassbare Geschichte wurde auf netzpolitik.org in mehreren Kapiteln aufgearbeitet. Und leider zu wenig beachtet.
    Auch hier haben wir eine achwasfm.janlucash.com/ Folge zu. Auf der Blogseite dazu finden Sie alle Dokumente, die wir ausgewertet haben.

    Microsoft greift an! Das Strategische Kochbuch.

    „Die Studie“ „On the Conversational Persuasiveness of Large Language Models: A Randomized Controlled Trial“ von Francesco Salvi, Manoel Horta Ribeiro, Riccardo Gallotti, Robert West,
    21 Mar 2024, lässt sich über verschiedene Quellen aufrufen:

    https://doi.org/10.48550/arXiv.2403.14380
    „Die Ewige URL“

    Die Studie bei der Cornell University, Zusammenfassung, (Paper als PDF, zum Download oben rechts clickbar)
    https://arxiv.org/abs/2403.14380

    Folgenbild

    Caravagio (1571 – 1610) hat vor über 429 Jahren (1595) das Bild zu unserer Folge gemalt. Es zeigt einen doppelt betrügerischen Kartenspieler, der auf das Zeichen des um die Karten des Opfers wissenden „Social Engineers“ wartet, um versteckte Trümpfe auszuspielen. Dem Opfer wurde wohl Hilfe angeboten, und es zeigte so seine Karten her.
    Die Bildbeschreibung in wikipedia beschreibt zwei Variationen zu dem Thema.

    Mehr zu Caravaggio findet sich im Wikipedia Eintrag https://de.wikipedia.org/wiki/Michelangelo_Merisi_da_Caravaggio

    Bild-Quelle auf wikimedia: https://commons.wikimedia.org/wiki/File:Caravaggio_(Michelangelo_Merisi)-_The_Cardsharps-_Google_Art_Project.jpg#file
    Caravaggio, Public domain, via Wikimedia Commons


  • Gender Data Gap. Geht KI der Rohstoff aus?

    Gender Data Gap. Geht KI der Rohstoff aus?

    S2/E35.  Wie soll denn der KI der Rohstoff ausgehen? Das muss ein Click Bait sein!

    Wir leben in einer Welt, die „dataisiert“ durch Digitalisierung ist. Daten sind das neue Öl, stimmt das nicht mehr? Sind die Zeiten von Big Data vorbei? Was haben wir in ⁠achwasfm.janlucash.com/⁠ über den Zustand der „Datengruben“ und Förderpumpen bisher verschwiegen?

    Der eigentliche Skandal ist nicht, dass es zu wenig Daten gäbe und wir dem verehrten Publikum das verschwiegen hätten. Oder das neue Gesetz von 2023 über Künstliche Intelligenz (AI ACT) Daten verbietet. 

    Es gibt auch nicht insgesamt zu wenige Daten. Aber von manch lebenswichtigen und überaus notwendigen Daten gibt es zu wenige: In manchen Bereichen, zum Beispiel wenn es um unsere Spezies Mensch geht, fehlt gar die Hälfte, also 50% des Rohstoffs. Die fehlenden Daten wären notwendig, damit wir saubere, valide und zuverlässige KI-Modelle erstellen können.

    Denn: Was Daten anbelangt, sind Frauen das „unsichtbare Geschlecht“. Ob in der Forschung von Medikamenten oder auch in der Notfallmedizin, der Produktgestaltung von Alltagsgegenständen oder Fahrzeugen – Frauen, ihre Anatomie, ihr Stoffwechsel, Hormonzyklen – ihre Daten werden nicht erhoben.

    Wenn bestimmte Politiker aktuell das Gendern verbieten, geht es um fadenscheinige Propaganda. Wenn sie doch Unternehmen in ihrem Bundesland fragten:  Manche sind „mit heißem Bemühn“ damit beschäftigt, lebensrettende Daten zu gendern.

    H.W. Klein

    Nochmal: Wenn der „Gender Data Gap“ nicht nachhaltig behoben wird, geht der KI „der Saft aus“. Schon jetzt sind KI Modelle unfair und verzerrt und kosten Leben. Das zeigen wir an einem drastischen Beispiel.

    Links zu den drei Haupt-Plattformen, auf denen es achwasfm.janlucash.com/ gibt.

    Podcast Plattform URL
    Apple Podcasthttps://podcasts.apple.com/de/podcast/achwas-fm-die-geschichten-hinter-den-pixeln/id1574087365?i=1000650314074
    Spotify https://open.spotify.com/episode/7AV4T81hx57gkzpF1BUoet?si=4c4D88DnSNa6-PzWBg1qgg
    Wissenschaftspodcasts
    Kuratierte Liste der Wissens- und Wissenschafts-Podcasts.    		https://wissenschaftspodcasts.de/podcasts/achwas/gender-data-gap-geht-ki-der-rohstoff-aus-8839928/
    … und auf vielen Apps auf dem Lieblings Windows, Android oder iOS Device (AntennaPod, Pocket Casts, Overcast, …)
    Die Einbettung von Podcastplayern mit Zugriff auf die entsprechenden Quellen funktioniert nicht immer zuverlässig. Daher finden Sie /findet Ihr an dieser Stelle eine Tabelle mit Links zu den Folgen bei den bekannten Quellen.

    Die Quellen

    Als Erstes der ALTAI, die Handreichung zum AI ACT:
    Autoren: AI HLEG – die HIGH-LEVEL EXPERT GROUP ON ARTIFICIAL INTELLIGENCE
    Titel: „The Assessment List for Trustworthy Artificial Intelligence (ALTAI) for self assessment„

    Die im Januar 2024 aktualisierte Homepage des ALTAI (Download des ALTAI auch in deutscher Sprache möglich. Kostenlos).
    https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai

    Hier kann man den ALTAI online ausfüllen https://altai.insight-centre.org/Home/HowToComplete

    Quellen mit Studien und vielen Beispielen aus der Praxis

    Caroline Criado-Perez „Unsichtbare  Frauen – wie eine von Daten beherrschte Welt die Hälfte der Bevölkerung ignoriert.„. btb 10.2.2020 

    Dr. Werner Martens „Gesundheitsrisiko Weiblich – Warum Frauen von der Medizin falsch verstanden und schlechter behandelt werden“ Heyne 26.10.2022

    Sonja Sperbera, Susanne Täuber, Corinne Post, Cordula Barzantny: „Gender Data Gap and its impact on management science — Reflections from a European perspective“
    European Management Journal 41 (2023) 2–8

    > Eine zusätzliche Perspektive: In diesem Artikel werden die negativen Auswirkungen des Gender Data Gap auf die Gesellschaft und das Verwaltungswissenschaft beleuchtet, und aufgezeigt wie der Gap langfristig überwunden werden kann.

    „As data increasingly inform every aspect of our lives, gender discrimination in the collection and application of female-based data has also risen. Because data are primarily sourced from (white) men, the solutions we design to address global problems are also primarily based on men, i.e. male bodies, male preferences and prototypical male life choices. The Gender Data Gap – referring to the circumstance that most data on which organisational decisions are based appear to be biased in favour of (white) men – describes this very absence of information about aspects of women’s lives. In this article, we not only demonstrate how the Gender Data Gap (negatively)impacts society and management science, but also highlight how the gap can be overcome in the long run. Further, we showcase several initiatives, particularly European ones, that suggest opportunities to gradually close the Gender Data Gap.“

    https://www.sciencedirect.com/science/article/pii/S0263237322001554

    NHTSA Report: „Newer Cars Appear to Significantly Reduce Gender Disparities in Crash Outcomes“ (08 2022)
    Zitat: „“Advancing equity, including across our transportation system, is one of the Biden-Harris Administration’s top priorities,” said Dr. Steven Cliff, NHTSA’s Administrator. “While NHTSA’s new report shows significant declines in differences in crash outcomes between women and men, there is more work required to eliminate any disparities that remain.” 
    https://www.nhtsa.gov/press-releases/nhtsa-report-newer-cars-appear-significantly-reduce-gender-disparities-crash

    Corina Klug, Johan Iraeus, Astrid Linder et al:
    Oktober 2023 erschien in einer Serie von Untersuchungen eine Studie zum Thema „Wie stark unterscheidet sich das Verletzungsrisiko zwischen einer durchschnittlichen weiblichen und einer durchschnittlichen männlichen Anthropometrie? Eine Simulationsstudie mit Open-Source-Tools für virtuelle Crash-Sicherheitsbewertungen“ übersetzt mit DeepL.
    „Differences in injury risk between females and males are often reported in field data analysis. The aim of this study was to investigate the differences in kinematics and injury risks between average female and male anthropometry in two exemplary use cases.„
    https://www.researchgate.net/publication/374665940_How_much_does_the_injury_risk_between_average_female_and_average_male_anthropometry_differ_-A_simulation_study_with_open_source_tools_for_virtual_crash_safety_assessments

    E.V.A. Initiative – Equal Vehicles for All „This initiative is to ensure everyone is represented – not just men, but women and children – when designing for safety.
    „We believe everyone has a right to be safe. Since 2019, through the E.V.A initiative, we’ve shared over 40 years of safety research. It’s open for anyone to download.
    Unter dem folgenden Link gibt es diese Daten und Reports
    https://developer.volvocars.com/resources/eva/reports/#1970-1980

    Deutschlandfunk: Wer mehr über den ersten „echten“ weiblichen Crash Test Dummy wissen möchte, kann hier sehen und hören:

    https://www.deutschlandfunknova.de/beitrag/crashtest-dummies-der-erste-echte-weibliche-dummy-kommt-aus-schweden

    Auch „Die Zeit“ berichtete darüber. Im Artikel aus dem Jahr 2022 werden gibt es auch Zweifel an den Chancen von EVA geäussert. Von einem Unfallforscher. Ein gute Möglichkeit, selber mal Quellen kritisch zu betrachten.
    https://www.zeit.de/mobilitaet/2022-11/gender-data-gap-autos-crashtest-dummys-frauen

    Die Bildquelle 

    Das Bild zeigt „Die Ruhe des Pilgers / Wanderer auf Bergeshöh„, einen Mann der in ein von Nebel verhülltes Tal schaut. Er kann nur ahnen, was sich dort unten befindet, sein Pilgerstab eignet sich nicht zum Stochern im Nebel oder Fischen im Trüben. Selbst eine KI könnte ihm wahrscheinlich nicht helfen. Es fehlen Daten.

    Das Bild stammt von ⁠Carl Gustav Carus⁠ (1789–1869) und wurde 1818 in Öl gemalt. 

    ⁠https://upload.wikimedia.org/wikipedia/commons/1/1a/Carl_Gustav_Carus_-_Wanderer_on_the_Mountaintop.jpg