Beiträge

Künstliche Vertrauensfragen

Der Security- und Kryptographie-Experte Bruce Schneier hat in einem Vortrag an der Harvard Kennedy School die Wichtigkeit von Vertrauen in Zusammenhang mit künstlicher Intelligenz erörtert. Meine Zusammenfassung:

Vertrauen ist die Grundlage für eine funktionierende Gesellschaft. Es gibt zwei verschiedene Arten von Vertrauen, zwischenmenschliches und soziales Vertrauen.

  • Zwischenmenschliches Vertrauen basiert auf der Beziehung zwischen Menschen, die sich kennen.
  • Soziales Vertrauen basiert auf Moral, Reputation, Gesetzen und Security-Technologien – diese schränken unser Verhalten ein und machen es vertrauenswürdig. Gesetze und Technologien sorgen für ein höheres soziales Vertrauen und sind skalierbar. Je komplexer eine Gesellschaft, desto wichtiger sind Gesetze und Technologien aufgrund ihrer Skalierbarkeit.

Zwischenmenschliches und soziales Vertrauen werden gerne verwechselt. Das passiert häufig in Zusammenhang mit Unternehmen, die wir oft als „Personen“ wahrnehmen, z.B. bei Marken, Social Media Accounts, Maskottchen etc. Die Verwechslung der zwei Vertrauensarten wird durch KI zunehmen.

KI-Systeme werden als menschlich wahrgenommen, obwohl sie nur Dienstleistungen sind. Im Optimalfall sind diese Dienstleistungen hilfreich, wahrscheinlicher ist aber, dass KI-Systeme ihre Nutzer:innen ausspionieren und manipulieren wollen. Überwachung und Manipulation sind schließlich das Geschäftsmodell des Internets.

KI wird so entwickelt werden, dass sie möglichst vertrauenserweckend wirkt. Dadurch wird die Verwechslungsgefahr zwischen zwischenmenschlichem und sozialen Vertrauen erhöht. Das ist so gewollt, denn es ist lukrativ und das menschliche Antlitz der KI verschleiert den einseitigen Einfluss der Unternehmen, die die KI betreiben.

Unternehmen werden die durch die Verwechslung von zwischenmenschlichem mit sozialem Vertrauen entstandene Verwirrung für ihren wirtschaftlichen Erfolg nutzen. Das tun sie auch heute schon, aber rund um KI wird dies zunehmen, denn die Verwendung natürlicher Sprache durch KI wird noch schneller scheinbares zwischenmenschliches Vertrauen kreieren. Außerdem werden mit Daten angereicherte digitale Assistent:innen eine größere Intimität ermöglichen.

Die negativen Konsequenzen dieser Verwechselung können sehr unterschiedlich sein – von versteckter Ausnutzung, über Falschinformationen bis hin zu illegalen Aktivitäten. Deswegen braucht es vertrauenswürdige KI – KI, deren Limitationen man kennt, deren Training man versteht, deren Biases man sich bewusst ist und korrigieren kann, deren Ziele man kennt.

Vertrauenswürdige KI kann nur durch politische Regularien entstehen. Regierungen müssen für Vertrauen in der Gesellschaft sorgen, sie müssen daher durch Regulierung das richtige Umfeld für vertrauenswürdige KI schaffen. Dazu gehören Transparenzgesetze (wann wird KI eingesetzt, wie wird sie trainiert, welche Biases und Tendenzen gibt es), Sicherheitsbestimmungen (wann darf KI eingesetzt werden) und Strafen.

Regulierung muss die KI-kontrollierenden und -nutzenden Unternehmen betreffen, nicht die KI selbst. Am Ende gibt es derzeit noch für jeden KI-Einsatz Menschen, die diesen steuern und dafür verantwortlich sind. Eine Daten-Treuhänderschaft mit zusätzlichen Verpflichtungen kann für generative KI ein wichtiges Instrument sein. Außerdem braucht es „public AI models„, die von der und für die Öffentlichkeit entwicklt werden.

Regierungen müssen rund um KI soziales Vertrauen schaffen:

We can never make AI into our friends. But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.

Feiertagspodcastempfehlung I

In „Teurer Wohnen“ wird in sieben Episoden der Abriss und Neubau eines Gebäudes in Berlin aufgearbeitet. Im Mittelpunkt steht die Gentrifizierung und wie sie zustande kommt. Verschiedene Perspektiven – ehemalige Bewohner, neue Bewohner, Investoren, Bezirksvorsteher… – werden beleuchtet.

U.a. geht es um die Funktionsweise des Immobilienmarktes, die Konsequenzen der chinesischen Ein-Kind-Politik, Filterblasen und kognitive Dissonanz, die falsche Einschätzung von „Mittelstand“, Steuervermeidung und Steueroasen innerhalb Deutschlands und Europas, große Firmengeflechte (auch bei kleinen Bauunternehmen) und um den gesetzlichen Rahmen, der das alles ermöglicht.

Insbesondere in Zeiten der Signa-Insolvenz wirklich hörenswert:

https://www.ardaudiothek.de/sendung/teurer-wohnen/12254011/

Der Glaube an Österreich ist notwendig – und braucht mehr als eine Kampagne

Österreich ist eine Gemeinschaft. Unser Staat verbindet die Vorarlberger Akademikerin mit dem Kärntner Pensionisten, den Verkäufer aus Wien mit der steirischen Industriellen. Das Gemeinschaftsgefühl ist die Grundlage für jede Demokratie, es rechtfertigt Steuern, Ausgaben für die Landesverteidigung, den Sozialstaat oder Investitionen in die gemeinsame Infrastruktur.

Gemeinschaft setzt den Austausch miteinander voraus. In Österreich, wie auch in anderen westlichen Demokratien, erleben wir aber seit Jahren den Rückzug ins Individuelle: der Pool im Garten wird gegenüber dem Freibad, der eigene Beamer gegenüber dem Kinobesuch bevorzugt. Der Stammtisch wird durch soziale Medien mit ihren Filterblasen ersetzt. Weniger gesellschaftliche Interaktion bedroht den Gemeinschaftssinn.

Das Lösen großer Herausforderungen setzt Gemeinschaft voraus

Was dem einzelnen nicht möglich ist, das vermögen viele.“ – das Friedrich Wilhelm Raiffeisen zugeschriebene Zitat gilt auch für die großen gesellschaftlichen Herausforderungen unserer Zeit.

Egal ob Maßnahmen zum Klimaschutz, zum Erhalt unserer Industrie oder zur Regulierung digitaler Plattformen – sie alle setzen die gemeinsame Bereitschaft für Veränderungen zum Wohle der Gemeinschaft voraus. In anderen Worten: weniger Flugreisen oder Neubauten, höhere Preise für Elektronik aus Fernost oder der Rückzug einer App vom österreichischen Markt erfordern kollektive Zugeständnisse. Solche Herausforderungen bewältigt eine Gesellschaft nur, wenn die Bevölkerung dahintersteht. Ohne Vertrauen in die Gemeinschaft Österreich sind sie nicht lösbar.

Das Vertrauen in die Gemeinschaft wird konterkariert, wenn man das Gefühl hat, dass andere es sich richten. Postenschacher und intransparente Studienvergaben, Umwidmungsgewinne öffentlicher Amtsinhaber und fragwürdige Lobbying-Aktivitäten ehemaliger Spitzenpolitiker – sie schwächen den Glauben an Österreich.

Notwendige Ehrlichkeit und offene Diskussion

Österreich hat die verschiedenen Krisen der letzten Jahre überstanden, dennoch leidet unsere langfristige gesellschaftliche und wirtschaftliche Substanz. Die Politik wird sich demnächst einer Vielzahl großer Fragen stellen müssen, darunter: Wie gelingt es uns, Wohnraum zu schaffen, ohne permanent neue Böden zu versiegeln? Wie garantieren wir die Versorgungssicherheit nach der Pensionierung der Babyboomer? Wie schaffen wir es, Arbeit in unserem Steuersystem signifikant zu entlasten? Wie gelingt es uns, Migration human zu regulieren und Menschen aus anderen Kulturkreisen nachhaltig zu integrieren? Wie können wir die Vorteile der Digitalisierung ohne langfristige Abhängigkeiten nutzen? Welche Kompromisse sind notwendig, um innerhalb der EU nationale Alleingänge zu verhindern?

Die Beantwortung solcher Fragen erfordert einen offenen Austausch, wechselseitige Zugeständnisse und das Eingeständnis, dass inhaltliche und personelle Entscheidungen manchmal Fehler waren und Veränderungen erfordern. Allen voran braucht es politischen Mut und Ehrlichkeit, Partikularinteressen und Klientelpolitik müssen hintangestellt werden. Für manche wird das unangenehm, für viele aber erleichternd sein und eines stärken: den Glauben an Österreich.

Bild zum Blogpost: (c) Wikimedia Commons user: Ikonact, Creative Commons Attribution-Share Alike 4.0 International license; black white filter applied

Verwaltungsverbesserungsbeteiligung

Vor einem halben Jahr haben wir mit der „Initiative Bessere Verwaltung“ 50 Vorschläge für eine Verbesserung der österreichischen Bundesverwaltung veröffentlicht.

Diese Vorschläge diskutieren wir nun in einem partizipativen Prozess über die Plattform eComitee – Interessierte können sich über den Link unten registrieren und anschließend ihre Ergänzungen, Kommentare und eigenen Ideen einbringen.

Ich freue mich, wenn sich auch Menschen aus meinem Umfeld beteiligen 😊

https://ecomitee.com/registration/discussion/5r8jUgQSSamKbfWJg2Gv71ZzwdbSzt

Parteienhinter(n)bleiben

Im Podcast „Der Professor und der Wolf“ mit Armin Wolf und Peter Filzmaier waren politische Parteien und deren Gründung Thema einer Episode. Im Parteienverzeichnis werden alle Parteien erfasst, die in Österreich gegründet wurden oder werden, darunter auch die „Autonom revolutionär subversiv chaotischen Hackler Partei“ – Kurzform: A.R.S.C.H.

Was war die A.R.S.C.H.-Partei und was wurde aus ihr?

Der Frage sind Ruth und ich in der neuesten Episode unseres Podcasts Erinnerungslücken nachgegangen. Hören kann man unseren Podcast über alle gängigen Podcast-Apps, u.a. auch über Spotify oder Apple Podcasts.

Wir freuen uns, wie immer, über Feedback, Bewertungen und Rückmeldungen aller Art 😊

Vermögensdiskussionen

Ruchir Sharma leitet das Unternehmen Rockefeller Capital Management. In einem lesenswerten Artikel in der Financial Times beschreibt er den Anstieg der globalen Vermögenskonzentration und die damit einhergehenden Konsequenzen, er prognostizierte z.B. wachsende soziale Unruhen in Frankreich.

Den Artikel greift der NYU-Professor und Unternehmer Scott Galloway in seinem Podcast auf. Ab Minute 8:15 hält er einen hörenswerten Monolog zum Thema Wohlstand und Einkommens- bzw. Vermögensverteilung. Er plädiert u.a. für eine Schließung von Steuer-Schlupflöchern, für eine progressive Einkommensbesteuerung bis hin zum obersten Prozent und für eine Entlastung des Faktors Arbeit.

Sharma und Galloway sind beide an der österreichischen Debatte zur Vermögensbesteuerung wohl eher unbeteiligt. Das Thema ist wichtig und die Diskussion dazu wird uns, international und in Österreich, noch länger begleiten, insbesondere wenn Sharmas Zahlen weiter ansteigen, wovon ohne Veränderung des derzeitigen Steuersystems auszugehen ist.

Erbschaftsdiskussionen

Zwei lesenswerte Artikel zur Diskussion um die (Wieder-)Einführung einer Erbschaftssteuer in Österreich:

Peter Michael Lingens im Falter 24/23 – „Was kann Andreas Babler umsetzen?“: https://www.falter.at/zeitung/20230614/was-kann-andreas-babler-umsetzen/_a190e8b0d2

Gerald John im Standard am 18. Juni – „Man muss kein Marxist sein, um eine Vermögenssteuer für richtig zu halten“: https://www.derstandard.at/story/3000000175173/muss-kein-marxist-sein-um-einer-vermoegenssteuer-viel-abgewinnen-zu-koennen

Verwaltungszustandserfassung

Thomas Wieser, ist Ökonom und war Vorsitzender der Eurogroup Working Group sowie Sektionschef im Finanzministerium. Außerdem ist er Teil unserer „Initiative Bessere Verwaltung“ (www.bessereverwaltung.at). Aktuell hat er im Standard die Missstände und den Reformbedarf zusammengefasst: https://www.derstandard.at/story/3000000173845/die-verwaltung-muss-besser-werden

Am 21. Juni um 16:00 organisieren wir mit der „Initiative Bessere Verwaltung“ ein Vernetzungstreffen an der Sigmund Freud Privatuniversität in Wien. Details schicke ich bei Interesse gerne zu!

Statt einer weißen Titelseite: eine andere Art von Werbung

Am 3. Mai erschienen Österreichs Tageszeitungen mit weißen Titelseiten. Man wollte aufzeigen, dass private Medien verstärkt in Bedrängnis geraten. Der ORF wird als zunehmende Bedrohung wahrgenommen, weil die Werbeerlöse bei Österreichs Medien sinken. Aber ist wirklich der ORF das Problem?

Martin Kotynek vom Standard lieferte die Antwort: Google und Facebook machen mittlerweile die Hälfte des österreichischen Werbemarktes aus. Der Werbekuchen für Österreichs Medien wird also insgesamt kleiner, Verteilungsfragen rücken in den Vordergrund.

Geschäftsmodell Verhaltensdaten

Die Situation am Werbemarkt erfordert Verständnis für digitale Geschäftsmodelle. Große Technologieplattformen versprechen ihren Kundinnen und Kunden, ganz spezifische Zielgruppen mit einer an die Gruppe angepassten Botschaft zu erreichen. Dafür werden permanent Verhaltensdaten der Nutzerinnen und Nutzer gesammelt und umfassende Profile erstellt (Stichwort: Mikrotargeting).

Diese „innovative“ Vorgehensweise stößt spätestens seit dem Skandal um Cambridge Analytica auf wachsende Kritik. Filterblasen oder sich viral verbreitendende Falschinformationen bauen ebenfalls auf der Verwertung von Verhaltensdaten auf. Währenddessen bleibt für Unternehmen intransparent, ob die versprochenen Zielgruppen tatsächlich erreicht werden, wie z.B. der US-Autor Tim Hwang kritisiert.

Kontextbasierte Werbung als Alternative

Verhaltensdaten als Grundlage für Werbung sind jedoch nicht alternativlos: Als der öffentlich-rechtliche Rundfunk der Niederlande 2020 beschloss, darauf zu verzichten und stattdessen auf kontextbasierte Werbung zu setzen, konnte der Werbeumsatz gesteigert werden. Der Vorteil für eigenständige Medien: Werbeumsätze müssen nicht mit digitalen Plattformen geteilt werden.

Ein weiterer Vorteil: Personifizierte Werbung wird häufig negativ wahrgenommen, z.B. wenn Nutzerinnen und Nutzer einmal kurz angesehene Produkte tagelang durch das gesamte Internet verfolgen. Seit 2021 haben iPhone-Besitzer die Möglichkeit, Apps die Auswertung von Verhaltensdaten zu untersagen – die Mehrheit macht davon Gebrauch.

Großes Potenzial für Österreich

Dennoch breitet sich auf Verhaltensdaten basierende Werbung, maßgeblich getrieben von globalen Technologieplattformen, weiterhin aus. Sofern keine Trendumkehr erfolgt, kann auch in Zukunft davon ausgegangen werden, dass Österreichs Anteil am Werbekuchen sich daher weiter verkleinert.

Das muss aber nicht der Fall sein. Österreich kann hier gegensteuern, z.B. mit der gesetzlichen Einschränkung invasiver, verhaltensbezogener Werbung. Durch den Digital Markets Act werden das Sammeln und die Auswertung der Verhaltensdaten von Kindern bereits verboten. Dies könnte auf nationaler Ebene ausgeweitet werden.

Eine solche Einschränkung würde nicht nur für fairere Wettbewerbsbedingungen für österreichische Medien am Werbemarkt sorgen, sondern gleichzeitig den Schutz personenbezogener Daten fördern. In Verbindung mit der bestehenden Ablehnung der Chatkontrolle und im Einklang mit Max Schrems und seiner Organisation noyb könnte Österreich europaweit eine Vorreiterrolle übernehmen.

Für eine solche Vorreiterrolle braucht es politischen Mut für den potenziellen Konflikt mit globalen Technologiekonzernen. Für Politik, ORF und Medien könnte das aber ein erfolgsversprechender Schritt sein – und eine kooperative Alternative zum laufenden innerösterreichischen Kampf um die Stücke eines schrumpfenden Werbekuchens.

Foto von Towfiqu barbhuiya auf Unsplash