Beiträge

Hypeentwicklungszustände

Am Jahresanfang gibt es immer zahlreiche Voraussagen, welche Trends und Next Big Things uns demnächst prägen werden. Viel davon ist geprägt von PR und Marketing, gerade wenn es um Technologie geht.

Zwei lesenswerte Artikel, einer über Amazons Zustelldienst via Drohne und was daraus wurde – https://www.nytimes.com/2023/11/04/technology/amazon-drone-delivery.html – ein anderer zu selbstfahrenden Autos: https://www.theguardian.com/commentisfree/2023/dec/06/driverless-cars-future-vehicles-public-transport

tl;dr: es ist nicht alles Gold, was glänzt.

Künstliche Vertrauensfragen

Der Security- und Kryptographie-Experte Bruce Schneier hat in einem Vortrag an der Harvard Kennedy School die Wichtigkeit von Vertrauen in Zusammenhang mit künstlicher Intelligenz erörtert. Meine Zusammenfassung:

Vertrauen ist die Grundlage für eine funktionierende Gesellschaft. Es gibt zwei verschiedene Arten von Vertrauen, zwischenmenschliches und soziales Vertrauen.

  • Zwischenmenschliches Vertrauen basiert auf der Beziehung zwischen Menschen, die sich kennen.
  • Soziales Vertrauen basiert auf Moral, Reputation, Gesetzen und Security-Technologien – diese schränken unser Verhalten ein und machen es vertrauenswürdig. Gesetze und Technologien sorgen für ein höheres soziales Vertrauen und sind skalierbar. Je komplexer eine Gesellschaft, desto wichtiger sind Gesetze und Technologien aufgrund ihrer Skalierbarkeit.

Zwischenmenschliches und soziales Vertrauen werden gerne verwechselt. Das passiert häufig in Zusammenhang mit Unternehmen, die wir oft als „Personen“ wahrnehmen, z.B. bei Marken, Social Media Accounts, Maskottchen etc. Die Verwechslung der zwei Vertrauensarten wird durch KI zunehmen.

KI-Systeme werden als menschlich wahrgenommen, obwohl sie nur Dienstleistungen sind. Im Optimalfall sind diese Dienstleistungen hilfreich, wahrscheinlicher ist aber, dass KI-Systeme ihre Nutzer:innen ausspionieren und manipulieren wollen. Überwachung und Manipulation sind schließlich das Geschäftsmodell des Internets.

KI wird so entwickelt werden, dass sie möglichst vertrauenserweckend wirkt. Dadurch wird die Verwechslungsgefahr zwischen zwischenmenschlichem und sozialen Vertrauen erhöht. Das ist so gewollt, denn es ist lukrativ und das menschliche Antlitz der KI verschleiert den einseitigen Einfluss der Unternehmen, die die KI betreiben.

Unternehmen werden die durch die Verwechslung von zwischenmenschlichem mit sozialem Vertrauen entstandene Verwirrung für ihren wirtschaftlichen Erfolg nutzen. Das tun sie auch heute schon, aber rund um KI wird dies zunehmen, denn die Verwendung natürlicher Sprache durch KI wird noch schneller scheinbares zwischenmenschliches Vertrauen kreieren. Außerdem werden mit Daten angereicherte digitale Assistent:innen eine größere Intimität ermöglichen.

Die negativen Konsequenzen dieser Verwechselung können sehr unterschiedlich sein – von versteckter Ausnutzung, über Falschinformationen bis hin zu illegalen Aktivitäten. Deswegen braucht es vertrauenswürdige KI – KI, deren Limitationen man kennt, deren Training man versteht, deren Biases man sich bewusst ist und korrigieren kann, deren Ziele man kennt.

Vertrauenswürdige KI kann nur durch politische Regularien entstehen. Regierungen müssen für Vertrauen in der Gesellschaft sorgen, sie müssen daher durch Regulierung das richtige Umfeld für vertrauenswürdige KI schaffen. Dazu gehören Transparenzgesetze (wann wird KI eingesetzt, wie wird sie trainiert, welche Biases und Tendenzen gibt es), Sicherheitsbestimmungen (wann darf KI eingesetzt werden) und Strafen.

Regulierung muss die KI-kontrollierenden und -nutzenden Unternehmen betreffen, nicht die KI selbst. Am Ende gibt es derzeit noch für jeden KI-Einsatz Menschen, die diesen steuern und dafür verantwortlich sind. Eine Daten-Treuhänderschaft mit zusätzlichen Verpflichtungen kann für generative KI ein wichtiges Instrument sein. Außerdem braucht es „public AI models„, die von der und für die Öffentlichkeit entwicklt werden.

Regierungen müssen rund um KI soziales Vertrauen schaffen:

We can never make AI into our friends. But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.

Wettbewerbswegweiser

Google hat vor Gericht in erster Instanz gegen Epic Games verloren – u.a. wurde die Kopplung von App Store und Abrechnungssystem für rechtswidrig erklärt.
Eine wohl wegweisende Entscheidung gegen Big Tech und das digitale Plattform-Geschäftsmodell:

https://www.thebignewsletter.com/p/boom-google-loses-antitrust-case

Internetentwicklungsaktivitäten

Eine informative Geschichte zur Entwicklung des Internets, zu den Vorzügen und Nachteilen unserer digitalen Infrastruktur und zu deren Zukunft. Insbesondere Social Media braucht Veränderungen – Dezentralisierung, Bezahlmodelle und weniger globale Viralität sind Schritte, die vermehrt gesetzt werden und bestehende Probleme adressieren. Lesenswert:

https://www.technologyreview.com/2023/10/17/1081194/how-to-fix-the-internet-online-discourse

Jugenschutzdigitalisierung

Barbara Tóth vom Falter hat ein wirklich lesenswertes Interview mit Silke Müller, einer Schulleiterin in Niedersachsen, geführt. Im Mittelpunkt steht die gewaltige Herausforderung für Eltern, einen passenden Umgang mit Smartphones und Social Media zu finden: https://www.falter.at/zeitung/20231010/wir-brauchen-eine-digitale-ethik

tl;dr:
– Jugendliche kommen zwangsläufig mit gewaltverherrlichenden und sexualisierten Inhalten in Kontakt, es braucht frühzeitige und intensive Bewusstseinsbildung durch Eltern & Schule.
– Die negativen Auswirkungen verschiedener Apps, sie nennt explizit TikTok und Social Media, reichen von sinkenden Aufmerksamkeitsspannen, über eine Verrohung der Sprache bis hin zu körperlichen Problemen.
– Gegensteuern ist möglich, z.B. über schulische Nutzungsbeschränkungen für Smartphones oder Social Media Sprechstunden. Über individuelle und standortspezifische Maßnahmen hinaus wären gesetzliche Regulierungen notwendig.

Vom Autor Max Fisher („The Chaos Machine“) kommt der Vergleich zwischen Social Media und Tabakkonsum: es geht nicht darum, dass wir bessere Produkte brauchen, sondern dass wir den Zugang dazu limitieren. Müller tritt für ein Jugendschutzgesetz ein, dass Smartphones erst ab 12 oder 14 erlaubt. Der NYU-Professor Jonathan Haidt setzt sich wiederum für altersbezogene und durchsetzbare Zugangsbeschränkungen für Social Media ein.

Dafür braucht es die Politik, auch in Österreich.

Zum Abschluss ein, wie ich finde, sehr gut zum Thema passendes und unterhaltsames Lied – für die nicht-Lesefreudigen 🤓

Verwaltungsverbesserungsbeteiligung

Vor einem halben Jahr haben wir mit der „Initiative Bessere Verwaltung“ 50 Vorschläge für eine Verbesserung der österreichischen Bundesverwaltung veröffentlicht.

Diese Vorschläge diskutieren wir nun in einem partizipativen Prozess über die Plattform eComitee – Interessierte können sich über den Link unten registrieren und anschließend ihre Ergänzungen, Kommentare und eigenen Ideen einbringen.

Ich freue mich, wenn sich auch Menschen aus meinem Umfeld beteiligen 😊

https://ecomitee.com/registration/discussion/5r8jUgQSSamKbfWJg2Gv71ZzwdbSzt

KI-Vertrauen

Bruce Schneier ist mit Sicherheit einer der bekanntesten IT-Security-Experten weltweit. Er setzt sich momentan für vertrauenswürdige KI ein. KI-Anwendungen, deren Entscheidungs- bzw. Empfehlungsparameter man nicht kenne, solle man nicht vertrauen. Den AI Act der Europäischen Kommission sieht Schneier als wichtigen Schritt.

Lesenswert:

https://www.schneier.com/blog/archives/2023/08/the-need-for-trustworthy-ai.html

Werbeparametertransparenz

Die amerikanische News-Plattform The Markup zeigt in einem Artikel den Detailgrad der Profile, die über die Nutzerinnen und Nutzer digitaler Plattformen angelegt werden.

Zuschreibungen wie „Receptive to emotional Messaging“ oder „Mid – Life Strugglers – Small-Town Families“ entstehen durch verhaltensbasierte Daten und werden für verhaltensbasierte Werbung verwendet.

Den dazugehörigen Datensatz hat übrigens der österreichische Tech-Forscher und -Aktivist Wolfie Christl entdeckt.

Lesenswert:

https://themarkup.org/privacy/2023/06/08/from-heavy-purchasers-of-pregnancy-tests-to-the-depression-prone-we-found-650000-ways-advertisers-label-you

Verhaltensdatensammlungsstopp

Die norwegische Datenschutzbehörde verbietet Meta (Facebook, Instagram), auf Verhaltensdaten basierende Werbung anzubieten.

Die Behörde im Wortlaut: „Invasive commercial surveillance for marketing purposes is one of the biggest risks to data protection on the internet today„.

Die Arbeit von NOYB und Co. trägt Früchte – und positive Entwicklungen starten ja oft in Skandinavien…

https://techcrunch.com/2023/07/17/norway-meta-ads-ban/

Mikrochipentwicklungen

Wie entsteht eine globale Wertschöpfungskette? 🌍

Eine äußerst lesenswerte Geschichte über die Entstehung von Transistoren, das Wettrennen um deren Verwendung, wirtschaftliche und militärische Macht, globale Arbeitsteilung, Kalifornien, TSMC, Stanford, Peter Thiel, Libertarismus – und Top Gun Maverick:

https://inkstickmedia.com/global-tech-supply-chains-are-as-complex-as-a-circuit-board/