Beiträge

Softwaresicherheitsmängel

Vor drei Wochen verursachte ein fehlerhaftes Software-Update bei CrowdStrike den Ausfall zahlreicher Windows-Rechner. Die Konsequenzen waren global spürbar, in Österreich kam es u.a. zu Flugausfällen, zu Störungen in Krankenhäusern und zu Einschränkungen im Bankenbereich.

Zwei lesenswerte Artikel zum Thema:

1) Der Security-Experte Bruce Schneier schreibt über notwendige Crashtests und den Bedarf nach mehr Ineffizienz in der Software-Entwicklung, um zerbrechliche Systeme zu vermeiden: https://www.schneier.com/blog/archives/2024/07/the-crowdstrike-outage-and-market-driven-brittleness.html

2) Der Technologie-Blogger Ed Zitron beschreibt die Probleme falscher Anreize im Silicon Valley: wenn die Jagd nach Monopol-Renten zum Haupttreiber wird, dann leidet nicht nur bei Boeing sondern auch im IT-Bereich die Qualitätssicherung: https://www.wheresyoured.at/crowdstruck-2/

Ausfallwahrscheinlichkeiten

Wir fantasieren zu viel über die zukünftigen Auswirkungen von AI und beschäftigen uns zu wenig mit der Anfälligkeit existierender IT-Infrastruktur.

Ein lesenswerter Artikel zum Crowdstrike-Dilemma: https://www.nytimes.com/2024/07/20/technology/crowdstrike-microsoft-outage-software.htmlvia Smart Casual

Outsourcingkonsequenzen

In meiner Kolumne für das Factory-Magazin schreibe ich über die „digitale Fertigungstiefe“ in der Produktion: https://factorynet.at/menschen/outsourcing-die-digitale-fertigungstiefe-als-strategische-entscheidung/

Outsourcing: die digitale Fertigungstiefe als strategische Entscheidung

„Pfusch am Bau“ ist eine beliebte Fernsehsendung. Im Mittelpunkt stehen Probleme beim Hausbau, rund um Wasser in der Wand, minderwertige Materialien etc. Quelle der Versäumnisse sind häufig scheinbar günstige (Sub-)Unternehmen, die an der falschen Stelle sparen und Häuslbauer, die das nicht beurteilen können.

Immer wieder: Make-or-Buy?

Selber machen oder externe Leistungen zukaufen? Diese Frage beschäftigt nicht nur österreichische Häuslbauer. Die Suche nach der richtigen Balance aus eigenem und zugekauftem Knowhow findet sich in der Industrie im Konzept der Fertigungstiefe. Sie misst den Anteil der Eigenfertigung am gesamten Produktionsprozess.

Produzierende Unternehmen müssen laufend und strategisch entscheiden, wie hoch die eigene Fertigungstiefe sein soll. Dabei gibt es kein eindeutiges Richtig oder Falsch. Industrieunternehmen, die viel selbst fertigen, sind in wirtschaftlich schwierigen Zeiten oft resilienter. Solche, die viel outsourcen, sind oft flexibler. Die Tatsache, dass die OEMs der Automobilindustrie ihre Fertigungstiefe reduzierten, bildet die Grundlage für die wichtige österreichische Zulieferindustrie.

Mit der Plattform Industrie 4.0 haben wir kürzlich eine Roadmap veröffentlicht, in der u.a. die Wichtigkeit des Domänenwissens am Industriestandort Österreich betont wird. Damit gemeint ist das betriebsinterne Wissen zur Herstellung von Produkten und zu Produktionsprozessen. Ist die Fertigungstiefe in einem Bereich besonders ausgeprägt, dann ist zumeist auch viel spezifisches Domänenwissen vorhanden – Betriebe haben in der Folge ein Alleinstellungsmerkmal.

Outsourcing im OT- und IT-Bereich

Wie sieht die Situation rund um Industrie 4.0 aus? Steuerungen, Sensoren, digitale Messtechnik, Roboter, AGVs etc. – sie sind aus der Produktion, dem OT-Bereich, nicht mehr wegzudenken. Viele österreichische Firmen haben daher beschlossen, solche Systeme selbst herzustellen und als Produkte anzubieten. Zwei Beispiele: die Anlagenbauer von Andritz bieten selbst Automatisierungslösungen an, der Automatisierungsspezialist Beckhoff entwickelt in Wien seit kurzem eigene Roboter.

Auch Datenbanken, digitale Zwillinge oder innovative Softwarelösungen sind in der Produktion weit verbreitet. Und auch im IT-Bereich gibt es produzierende Unternehmen, die selbst weitgehende Lösungen entwickeln, z.B. die steirische AVL in der Automobilindustrie.

Aktuell beschäftigt die Frage nach der „digitalen Fertigungstiefe“ zahlreiche Firmen im Bereich der IT-Infrastruktur. Hybride Cloudumgebungen – eine Mischung aus eigenem Rechenzentrum und öffentlicher Cloud – verbreiten sich zunehmend. Vorteilen wie der Skalierbarkeit oder der Verfügbarkeit öffentlicher Cloud-Systeme stehen Security-Fragen oder einseitige Abhängigkeiten gegenüber. Dabei gilt wie immer: nicht alles, was glänzt, ist Gold. „Serverless Computing“ funktioniert nicht ohne Server und Kostenvorteile können sich umkehren, wie das Beispiel des IT-Unternehmens Basecamp zeigt.

In jedem Fall: Kompetenz benötigt

Gerade wenn es darum geht, das vorhandene Domänenwissen mit IT-Knowhow anzureichern und auszubauen, ist der Aufbau entsprechender Teams notwendig. Das betrifft heute z.B. das Thema der praktisch sinnvollen Datennutzung oder den zunehmend wichtigen Bereich der IT-Sicherheit. Eigene, kompetente IT-Mitarbeiter:innen sind selbst dann notwendig, wenn externe Expertise zugekauft wird.

Natürlich gilt auch im digitalen Raum, dass es per se kein Richtig oder Falsch rund um Outsourcing gibt. Es gilt jedoch: trotz Auslagerung braucht die Industrie das Knowhow, um die Steuerung ihrer Auftragnehmer und die Qualitätskontrolle sicherzustellen. Pfusch ist nicht nur am Bau langfristig teuer.

Unterseeinfrastruktur

Wie repariert man die Tiefsee-Kabel, die das Internet ermöglichen? Ein lesenswerter Einblick in eine Industrie, deren Arbeit man kaum mitbekommt:

https://www.theverge.com/c/24070570/internet-cables-undersea-deep-repair-ships

Margenklarheit

Auf Transparenz beruhendes Wissen ist eine wesentliche politische Entscheidungsgrundlage. Rund um wirtschaftliche Konglomerate, insbesondere im Technologie-Bereich, herrscht große Intransparenz. Was das bedeutet und warum die amerikanische FTC Amazon verklagt, um Zahlen zu deren Margen zu erhalten, wird in diesem lesenswerten Artikel erklärt:

https://www.theatlantic.com/ideas/archive/2024/02/amazon-profits-antitrust-ftc/677580

Wir brauchen Smartphone-freie Schulen und ein Verbot sozialer Medien für Kinder!

Manchmal hat man in Österreich das Gefühl, dass Digitalisierung als Naturgewalt wahrgenommen wird, die unaufhaltsam über uns hereinbricht. Das ist falsch, denn alles Digitale ist menschgemacht und Menschen halten sich zumeist an Gesetze oder gesellschaftliche Normen.

Trotzdem diskutieren wir nur selten darüber, wie wir Digitalisierung gestalten möchten. Häufig landet man beim „der Zug ist abgefahren“-Argument: Tun Smartphones Kindern gut? Sollten 10-Jährige Accounts bei sozialen Medien haben? Wollen wir, dass unser Verhalten permanent dokumentiert und für Werbung verwendet wird? Wer solche Fragen stellt, der hört schnell, dass man da nichts machen könne – Zuckerberg, Cook & Co. seien schließlich weit weg, man müsse lernen, die neuen Gegebenheiten zu akzeptieren.

In den USA, in Großbritannien und in immer mehr Teilen der Welt sieht man das zunehmend anders. Derzeit diskutiert man in Übersee intensiv das neue Buch („The Anxious Generation“) des amerikanischen Psychologieprofessors Jonathan Haidt. Seine Kernthesen: Soziale Medien und Smartphones haben global Kindheiten zum Schlechten verändert. Sie sind eine Ursache für Angststörungen und Depressionen. Sie reduzieren die Konzentrationsfähigkeit von Jugendlichen. Sie senken das Selbstbewusstsein junger Mädchen, Burschen kapseln sich vermehrt von ihrer Umgebung ab und verlieren den Anschluss.

In der Kindheit entstehen Werte, Weltbilder und Interessen. Es entstehen lebenslange Freundschaften und Leidenschaften, z.B. für Sport oder Musik. Kinder lernen noch akzentfrei Sprachen, auch Dialekte – ihnen gelingt die gesellschaftliche Integration am leichtesten. Haidt argumentiert, dass Smartphones und soziale Medien Kinder zwischen 9 und 15 vor allem negativ prägen. Werbefinanzierte Influencer ersetzen lokale Vorbilder, vom Glücksspiel inspirierte Apps ersetzen Hobbies und physische Aktivitäten mit Freundinnen und Freunden.

Haidt fordert daher ein Verbot sozialer Medien mit ihren aufwühlenden und Aufmerksamkeit dominierenden Algorithmen für unter 16-Jährige, ein Verbot von Smartphones bis zum Ende der Mittelschule und Smartphone-freie Schulen.

Haidts Thesen sind nicht unumstritten, seine Forderungen werden aber intensiv diskutiert: In Florida gibt es einen Gesetzesvorschlag zum Verbot sozialer Medien, in Großbritannien fordern 75.000 Eltern ein Smartphone-Verbot, jeweils für Unter-16-Jährige. In Frankreich arbeitet man an einem gesetzlichen Mindestalter für Social Media. Neuseeland verbietet seit kurzem Smartphones in Schulen. Vielerorts handelt die Politik bereits oder wird, insbesondere von Eltern, vermehrt dazu aufgefordert.

Auch österreichische Eltern sind konstant damit konfrontiert, einen passenden Umgang mit Technologie zu finden. Kritiker argumentieren, dass Eltern selbst entscheiden sollen, wann ihre Kinder Smartphones bekommen oder auf sozialen Medien aktiv werden dürfen. Kinder wollen aber, was andere haben – ein Smartphone oder Accounts für soziale Medien werden früh zu absoluten Wunschobjekten. Geben einzelne Eltern aus verständlichen Gründen nach, dann entsteht massiver sozialer Druck für andere. So landen wir in einer belastenden Situation für zahlreiche Eltern, potenziell zum Nachteil vieler Kinder. Es liegt ein soziales Dilemma vor. Für dessen Lösung braucht es die Politik. Das ist eine Frage des Kinderschutzes.

Wir sollten Verbote für Smartphones und soziale Medien sowie Smartphone-freie Schulen politisch diskutieren. Die österreichischen Parteien sollten das Thema aufgreifen, man könnte auch einen Bürgerrat zur gemeinsamen Entscheidungsfindung einberufen. Es gibt in Österreich Schulen, die Smartphones in den Klassen und auch Pausen verbieten, Lehrwerkstätten, in denen sie tabu sind. Hier sollte die Politik unterstützen – z.B. durch evaluierbare Pilotprojekte, konkret auch durch die Anschaffung von Smartphone-Spinds. Die Politik sollte auch untersuchen lassen, wie eine Datenschutz-konforme Altersüberprüfung für soziale Medien aussehen kann – wir verfügen über europaweit angesehene Experten zu Datenschutz und Privatsphäre, die mit Sicherheit bereit wären, ihre Expertise beizusteuern.

Es geht nicht darum, die Digitalisierung aufzuhalten. Sie vereinfacht vielfach unser Leben, unsere Wirtschaft bleibt mit ihr wettbewerbsfähig. Es geht auch nicht darum, Technologie aus dem Leben unserer Kinder zu verbannen – Laptops im Wohnzimmer, digitaler Kompetenzaufbau im Schulunterricht und das Ansehen von Videos sind anders zu bewerten als omnipräsente Smartphones und die Erstellung personalisierter Profile. Es geht darum, zu entscheiden, welche Aspekte der Digitalisierung wir als Gesellschaft für unsere Kinder wollen – und welche nicht. Diskutieren wir das im Wahlkampf-Jahr 2024!

zuerst veröffentlicht auf falter.at

Foto von charlesdeluvio auf Unsplash

David gegen Goliath unterstützen

Max Schrems‘ NGO noyb hat bei der österreichischen Datenschutzbehörde eine Beschwerde gegen OpenAI eingereicht, da ChatGPT mit personenbezogenen Daten interagiert, die Einhaltung der DSGVO aber nicht sicherstellen kann.

Gleichzeitig kämpft noyb gegen die sich rasch ausbreitende Praxis von „Pay or okay“ rund um die Nutzung von Websites und Plattformen.

Es braucht Mut, mitten in einem Hype auf individuelle Rechte zu beharren und die juristische Konfrontation mit großen Konzernen zu suchen. Durch eine Mitgliedschaft kann man die Arbeit von noyb unterstützen – empfehlenswert: https://noyb.eu/en/support-us

Videokanalisation

Auf YouTube gibt es rund 14 Milliarden Videos. 10.000 davon sind für 94% des Traffics verantwortlich. Knapp 5% haben gar keine Views, 3/4 haben keine Kommentare.

Trotzdem sind diese Videos für viele Personen und Gruppen hochrelevant – z.B. für Vereine, Kirchen, Parteien, Lokalmedien, für Aktivismus…

YouTube ist daher Infrastruktur und auch so zu behandeln – z.B. indem die Forschung bessere Zugänge zu Daten bekommt oder indem Algorithmus-Veränderungen extern überprüft werden.

Dafür argumentiert dieser lesenswerte Text: https://www.theatlantic.com/technology/archive/2024/01/how-many-videos-youtube-research/677250/

Hypeentwicklungszustände

Am Jahresanfang gibt es immer zahlreiche Voraussagen, welche Trends und Next Big Things uns demnächst prägen werden. Viel davon ist geprägt von PR und Marketing, gerade wenn es um Technologie geht.

Zwei lesenswerte Artikel, einer über Amazons Zustelldienst via Drohne und was daraus wurde – https://www.nytimes.com/2023/11/04/technology/amazon-drone-delivery.html – ein anderer zu selbstfahrenden Autos: https://www.theguardian.com/commentisfree/2023/dec/06/driverless-cars-future-vehicles-public-transport

tl;dr: es ist nicht alles Gold, was glänzt.

Künstliche Vertrauensfragen

Der Security- und Kryptographie-Experte Bruce Schneier hat in einem Vortrag an der Harvard Kennedy School die Wichtigkeit von Vertrauen in Zusammenhang mit künstlicher Intelligenz erörtert. Meine Zusammenfassung:

Vertrauen ist die Grundlage für eine funktionierende Gesellschaft. Es gibt zwei verschiedene Arten von Vertrauen, zwischenmenschliches und soziales Vertrauen.

  • Zwischenmenschliches Vertrauen basiert auf der Beziehung zwischen Menschen, die sich kennen.
  • Soziales Vertrauen basiert auf Moral, Reputation, Gesetzen und Security-Technologien – diese schränken unser Verhalten ein und machen es vertrauenswürdig. Gesetze und Technologien sorgen für ein höheres soziales Vertrauen und sind skalierbar. Je komplexer eine Gesellschaft, desto wichtiger sind Gesetze und Technologien aufgrund ihrer Skalierbarkeit.

Zwischenmenschliches und soziales Vertrauen werden gerne verwechselt. Das passiert häufig in Zusammenhang mit Unternehmen, die wir oft als „Personen“ wahrnehmen, z.B. bei Marken, Social Media Accounts, Maskottchen etc. Die Verwechslung der zwei Vertrauensarten wird durch KI zunehmen.

KI-Systeme werden als menschlich wahrgenommen, obwohl sie nur Dienstleistungen sind. Im Optimalfall sind diese Dienstleistungen hilfreich, wahrscheinlicher ist aber, dass KI-Systeme ihre Nutzer:innen ausspionieren und manipulieren wollen. Überwachung und Manipulation sind schließlich das Geschäftsmodell des Internets.

KI wird so entwickelt werden, dass sie möglichst vertrauenserweckend wirkt. Dadurch wird die Verwechslungsgefahr zwischen zwischenmenschlichem und sozialen Vertrauen erhöht. Das ist so gewollt, denn es ist lukrativ und das menschliche Antlitz der KI verschleiert den einseitigen Einfluss der Unternehmen, die die KI betreiben.

Unternehmen werden die durch die Verwechslung von zwischenmenschlichem mit sozialem Vertrauen entstandene Verwirrung für ihren wirtschaftlichen Erfolg nutzen. Das tun sie auch heute schon, aber rund um KI wird dies zunehmen, denn die Verwendung natürlicher Sprache durch KI wird noch schneller scheinbares zwischenmenschliches Vertrauen kreieren. Außerdem werden mit Daten angereicherte digitale Assistent:innen eine größere Intimität ermöglichen.

Die negativen Konsequenzen dieser Verwechselung können sehr unterschiedlich sein – von versteckter Ausnutzung, über Falschinformationen bis hin zu illegalen Aktivitäten. Deswegen braucht es vertrauenswürdige KI – KI, deren Limitationen man kennt, deren Training man versteht, deren Biases man sich bewusst ist und korrigieren kann, deren Ziele man kennt.

Vertrauenswürdige KI kann nur durch politische Regularien entstehen. Regierungen müssen für Vertrauen in der Gesellschaft sorgen, sie müssen daher durch Regulierung das richtige Umfeld für vertrauenswürdige KI schaffen. Dazu gehören Transparenzgesetze (wann wird KI eingesetzt, wie wird sie trainiert, welche Biases und Tendenzen gibt es), Sicherheitsbestimmungen (wann darf KI eingesetzt werden) und Strafen.

Regulierung muss die KI-kontrollierenden und -nutzenden Unternehmen betreffen, nicht die KI selbst. Am Ende gibt es derzeit noch für jeden KI-Einsatz Menschen, die diesen steuern und dafür verantwortlich sind. Eine Daten-Treuhänderschaft mit zusätzlichen Verpflichtungen kann für generative KI ein wichtiges Instrument sein. Außerdem braucht es „public AI models„, die von der und für die Öffentlichkeit entwicklt werden.

Regierungen müssen rund um KI soziales Vertrauen schaffen:

We can never make AI into our friends. But we can make them into trustworthy services—agents and not double agents. But only if government mandates it. We can put limits on surveillance capitalism. But only if government mandates it.