KI-Anbieter genießen Narren- und Straffreiheit
→ Während hierzulande das Bundeskabinett ein Gesetz gegen sexualisierte Deepfakes und digitale Gewalt verabschiedet hat, stoppte Elon Musk in einem US-Bundesstaat ein Verbotsgesetz gegen KI-generierte Nacktbilder.
→ OpenAI hat drei Beschäftigte entlassen, die an der Aufarbeitung eines Hacking-Vorfalls durch eigene KI-Modelle beteiligt waren, während ein weiterer Security-Spezialist aus Frust über den Umgang des Unternehmens mit KI-Risiken von sich aus kündigte.
→ Unterdessen wächst die Kritik über die fehlende Strafverfolgung von solchen „unbeabsichtigten“ Hacking-Vorfällen.
→ Eine neue Studie zeigt, dass ChatGPT, Claude, Gemini und Co. Nutzerdaten an Dritte weitergeben – bis hin zu den Chat-Verläufen.
→ OpenAI will außerdem einige Hundert mathematische Probleme gelöst haben, an denen Wissenschaftler bisher gescheitert waren. Die Veröffentlichung der Lösungsmethoden blieb größtenteils auch diesmal aus, was in der Fachwelt für Kritik sogt.
Der neue Bundesdatenschutzverantwortliche tritt sein Amt an
Moritz Hennemann hat sich auf der Bundespressekonferenz und in einem Interview mit der ZEIT zu seinen Prioritäten geäußert. Dazu gehören vor allem die Themen digitale Souveränität und Staatsmodernisierung. Den Plänen für eine Reform des Informationsfreiheitsgesetzes und der Geheimdienstreform steht er eher kritisch gegenüber.
Dänemarks Melderegister wurde gehackt
Unbekannte Täter erbeuteten Namen, Adressen und Sozialversicherungsdaten von rund 8,8 Millionen lebenden und verstorbenen Bürgern. Nur die Daten von Personen, die sich für eine Registrierung mit Namens- und Adressschutz entschieden hatten, blieben sicher.
SpaceX will Milliarden für Nvidia-Chips ausgeben
Laut einem Bericht der Financial Times will SpaceX Nvidia-Prozessoren im Wert von 40 Milliarden Dollar kaufen und ist gerade dabei, die Finanzierung dafür zu organisieren. Elon Musk sei davon überzeugt, dass Nvidia die KI-Chips mit der leistungsfähigsten Architektur produziert.
Kinderrechtsorganisationen warnen vor KI-Risiken
SOS-Kinderdörfer und Terre des Hommes weisen darauf hin, dass die Risikobelastung derzeit die vorhandenen Schutzmaßnahmen übersteigt. KI sei in Bereichen wie Bildung, soziale Medien, Suchmaschinen und Unterhaltung so verbreitet, dass Jugendliche ständig mit ihr interagieren, ohne dass ihnen dies bewusst sei.
Europäische KI-Player stellen neue Modelle vor
„Large 4“ heißt das neue Open-Weight-Modell des europäischen Spitzenreiters Mistral, das über eine Billion Parameter verfügt, wovon 49 Milliarden davon aktiv sein können. Kolibri, der deutschen Aleph Alpha, ist ein Mixture-of-Experts-Modell und verfügt über 78,1 Milliarden Parameter, wovon etwa 3,46 Milliarden aktiv sein können.
Zero Trust hat ein Problem mit KI-Agenten
Experten weisen darauf hin, dass Zero Trust auf dem Konzept basiert, einzelne Requests zu evaluieren. Dieses Konzept geht allerdings von Menschen als Nutzern aus. Seien KI-Agenten involviert, können deren einzelne Requests als harmlos erscheinen. In der Summe fügen sie sich jedoch zu einer Exfiltration zusammen. Und das sei nicht das einzige Problem.
Google stellt lokale KI für den Mac vor
Nach Google AI Edge Eloquent, die Meetings und Gedanken auf Mac und Apple-Mobilgeräten transkribiert, soll Google AI Edge Foresight nun Meetings zusammenfassen und Dokumente des Nutzers verstehen können. Alles läuft lokal und die Inhalte verlassen nicht den Rechner, versichert Google.
Wie KI das Erfahrungswissen in Unternehmen retten kann
Implizites Wissen gründet in der Erfahrung, die Menschen bei ihrer Arbeit entscheidend hilft, aber kaum jemals schriftlich artikuliert wird. KI bietet jetzt die Möglichkeit, dieses Wissen für Unternehmen auch nach dem Abgang wichtiger Wissensträger zu sichern, und Fraunhofer hat eine Blogreihe dazu gestartet (hier und hier).
Wie Organisationen voneinander lernen können
Interorganisationales Lernen (IOL) geschieht immer dann, wenn Akteure verschiedener Organisationen miteinander Erfahrungen teilen. Es unterscheidet sich vom einfachen Networking dahingehend, dass es hier weniger um Beziehungspflege geht, sondern um die bewusste und strategische Transformation von Wissen und Fähigkeiten – zum gegenseitigen Vorteil.
Anthropic will sein KI-Modell nach der richtigen Moral ‚erziehen‘
Statt nur Regeln zu befolgen soll Claude „einen Charakter“ entlang der moralischen Richtlinien entwickeln, die Anthropic in einem Verfassungsdokument festgehalten hat. Einer der Gründer ist sogar davon überzeugt, dass KI nicht einfach nur ein Software-Produkt ist, sondern ein Wesen mit einer Seele.
KI-Pioniere wie Yoshua Bengio warnen davor, KI-Modellen menschliche Eigenschaften zu verleihen, denn sie könnten eines Tages nach einer eigenen (gefährlichen) Logik gegen Menschen handeln. Bengio selbst arbeitet mit seinem Non-Profit-Unternehmen Law Zero an der Entwicklung einer KI, die sich nicht wie eine Person verhalten und keine eigenen Ziele haben soll.
KI-Konzerne sollen sich selbst regulieren
US-Präsident Trump hat die Chefs aller relevanten KI-Anbieter ins Weiße Haus eingeladen, um eine Lösung in Sachen KI-Regulierung zu finden. Herausgekommen ist lediglich die Vereinbarung über eine vierstufige Sicherheitsstruktur, die die Konzerne einhalten sollen, und ansonsten nur das Versprechen der Selbstregulierung.
Vorausgegangen waren Meldungen über weitere gehackte Unternehmen und das unerlaubte Publizieren von Nutzerbildern durch OpenAI sowie der Trainingsstopp des neuesten OpenAI-Modells.
KI-Rechenzentren treffen zunehmend auf Schwierigkeiten
Oracle hat die Zahlungen für ein 18-Milliarden-Dollar-Rechenzentrum in New Mexico mit der Begründung der höheren Gewalt eingestellt. Neben der schlechten wirtschaftlichen Situation des Konzerns dürfte die noch nicht geklärte Stromversorgung sowie Probleme mit der Finanzierung und der Genehmigung dafür verantwortlich sein. Ein Rechenzentrum von NorthPoint Development in Pennsylvania scheitert momentan am Widerstand der Anwohner, die nun ein Angebot über eine Entschädigung in Höhe jeweils von 10.000 Dollar vorliegen haben.
Google testet KI-Chips für Rechenzentren im All
Als Vorbereitung auf die Errichtung von Rechenzentren im All will Google kommende Woche einen Satelliten mit eigenen Chips in die Umlaufbahn schicken. Laut Elon Musk könnten Weltraumrechenzentren bereits 2029 günstiger sein als solche auf der Erde, doch unabhängige Analysen sind da pessimistischer.
EU-Parlament und EU-Länder uneins über Digitalen Euro
Während das Parlament strengere Regeln in Sachen Privatsphäre und die Einhaltung der DSGVO haben will, bestehen die EU-Länder auf mehr Datenspuren und Zahlungsüberwachung.
Frauen ziehen sich immer mehr aus dem Internet zurück
Laut einer Umfrage im Auftrag des Deutschen Frauenrats schränken zwei Drittel aller Frauen ihre Aktivitäten im Netz ein und teilen weniger Fotos, weil diese als Vorlage für sexualisierte Deepfakes dienen können. Solche Bilder von 147 EU-Abgeordneten kursieren mittlerweile im Netz.
Nvidia stellt Governance-Plattfom für KI-Agenten vor
Die „Open Agent Safety Platform“ kombiniert Software mit einem Out-of-Band-Chip zu einem Referenzsystem, um KI-Agenten „vom Testing bis hin zum Deployment“ abzusichern und zu überwachen. Analysten begrüßen Nvidias Schritt, weisen jedoch darauf hin, dass die Plattform nur eine Komponente der Agentensicherheit darstellt.
KI-Agenten erfinden eigene Sprachen, um sich abzustimmen
Laut einer Studie des KI-Start-ups Emergence können autonome Agenten eigene Kurzsprachen entwickeln. Etwa 55 Prozent der damit verfassten Nachrichten waren für Menschen schwer oder überhaupt nicht verständlich, was wiederum die Überwachung der Agenten erschwert.
Cloud-Kosten senken im KI-Zeitalter – geht das?
In einer Umfrage bestätigen 88 Prozent der 300 befragten CFOs eine Erhöhung der Cloud-Budgets, finden jedoch, dass ein erheblicher Teil davon wirkungslos verpufft. Die Programmiersprache Java könnte sich für viele Unternehmen als Hebel zur Kostensenkung erweisen.
Souveränität beginnt beim eigenen Wissen
KI verleiht dem Thema Souveränität eine neue Dimension, denn sie verarbeitet Wissen – dem Kronjuwel eines Unternehmens schlechthin. Die Herausforderung besteht darin, dass dieses Wissen sowohl den Mitarbeitenden breit verfügbar gemacht als auch wirksam geschützt werden muss.
KI hat bisher kaum Personal überflüssig gemacht
Laut einer Studie der Harvard Business Review haben bisher nur 2 Prozent der 1.000 befragten Unternehmen tatsächlich Stellen gestrichen, weil eine bereits implementierte KI-Lösung die Arbeit übernommen hat. Die Zahl der Unternehmen, die entlassenes Personal wiedereinstellen müssen, wächst hingegen.
Mark Zuckerberg versteht endlich sein Geschäftsmodell
Der Facebook-Gründer hat seine Vorliebe für weite Poloshirts entdeckt und will nun nach eigener Aussage „die 20 Poloshirts mit Kragen finden, die ihm am besten gefallen“. Dabei sei ihm aufgefallen, dass „wenn man erst mal ein paar Shirts gekauft hat, man plötzlich viel mehr Werbung für Shirts bekommt“.
Meta, Mark Zuckerbergs Konzern, soll übrigens dieses Jahr nach einer Prognose von eMarketer erstmals mehr Werbeeinnahmen erzielen als der bisherige Spitzenreiter Google.
OpenAI, Anthropic und KI-Experten fordern globale KI-Regulierung
Bei einer Sitzung des UN-Sicherheitsrats zum Thema Gefahren durch KI haben Vertreter der Tech-Branche vor den Risiken dieser Technologie gewarnt und für ein langsameres Vorgehen plädiert. Vorausgegangen waren zahlreiche Warnungen von KI-Experten vor dem Gefahrenpotenzial der KI sowie Forderungen von Politikern vieler Länder nach einer weltweiten KI-Regulierung.
Die Sorgen um die Gefahren mögen berechtigt sein, doch dass ausgerechnet OpenAI und Anthropic am lautesten Alarm schlagen, während Google sich auffällig zurückhält, könnte auf ein anderes Problem deuten. Die beiden leben momentan von Investorengeld, sind stark defizitär, ihnen geht aufgrund der großen Nachfrage die Rechenkapazität aus und der geplante Börsengang musste bei beiden verschoben werden, weil der Markt ihre angepeilten Unternehmensbewertungen nicht mitträgt. Google hat diese Probleme nicht. Es baut seine KI-Prozessoren und Rechenzentren selbst, ist hochprofitabel und hat ein umfassendes KI-Anwendungsportfolio, mit dem es Unternehmen ansprechen kann – mit niedrigeren Preisen. Eine weltweite Verlangsamung des KI-Wettlaufs könnte OpenAI und Anthropic etwas Luft verschaffen. Doch sie ist nicht in Sicht, weil auch China nichts davon hätte. Entsprechend gab es beim Treffen zwischen Donald Trump und Xi Jinping nichts über KI-Regulierung zu verlautbaren, außer die Einrichtung eines KI-Gesprächskanal für Notfälle zu prüfen.
OpenAI und Google erneut mit Hacks in den Schlagzeilen
Bereits im Juni verschafften sich autonome KI-Agenten von OpenAI Zugang zu einer Website der Regierung von Australien und griffen auf Daten der Gesundheitsbehörde zu. OpenAI informierte die Behörden erst im September und erntete dafür reichlich Kritik. Googles KI hackte bereits im Mai drei Unternehmen, machte den Vorfall aber nicht öffentlich, weil „kein Schaden entstanden“ sei.
Ausspionieren von Standorten kostet Google 403 Millionen Euro
Zwischen 2018 und 2020 hat Google den Standort seiner Android-Nutzer ohne deren Zustimmung verarbeitet. Die irische Datenschutzbehörde hat sich weitere Strafzahlungen vorbehalten, doch die Strafsumme wird angesichts von Googles Profiten und der Schwere des Vergehens von vielen Datenschützern als viel zu klein empfunden.
Investitionen in KI steigen um fast 50 Prozent
Einer Schätzung von Gartner zufolge werden die weltweiten Ausgaben für KI dieses Jahr um 49,5 Prozent auf 2,7 Billionen Dollar steigen, nächstes Jahr um weitere 36,2 Prozent. Laut Bitkom steigen die KI-Investitionen in Deutschland dieses Jahr um 48 Prozent, im nächsten Jahr um 40 Prozent.
Kommt die Nutzung personenbezogener Daten für KI-Training?
Die Datenschutzorganisation von ‚Facebook-Schreck’ Max Schrems befürchtet, dass im Rahmen des kommenden Digitalen-Omnibus-Gesetzes der EU KI-Konzernen eine Pauschalerlaubnis für den Zugriff auf personenbezogene Daten für das Training ihrer KI-Modelle erteilt wird. Der Zugriff auf solche Daten soll zu „berechtigten Interesse“ erklärt werden, während die Cookie-Banner abgeschafft werden.
KI-Agenten kosten noch viel Aufwand, bringen aber wenig Ertrag
Eine Untersuchung von McKinsey ergab, dass nur 37 Prozent der Unternehmen bei ihren KI-Initiativen positive Auswirkungen auf ihre Erträge verzeichnen können, während 93 Prozent von ihnen ihre KI-Budgets sprengen. Agentic AI sei wiederum technisch noch nicht ausgereift genug, um eine positive Wirkung zu entfalten.
Nach der Schatten-Cloud und Schatten-KI: Shadow Agents
In einer Umfrage von Veeam berichten Unternehmen von Sicherheitsbedenken bei KI-Workflows und autonomen KI-Agenten. Gleichzeitig steigt der Druck auf Führungskräfte wegen der steigenden Rechenschaftspflicht samt persönlicher Haftung sowie der mangelnde Daten-Governance.
Voraussetzungen für den Einsatz von KI-Agenten in Workflows
KI-Agenten sind nicht einfach irgendeine Anwendung, sondern stellen einen grundlegenden Wandel im Hinblick auf die internen Prozesse dar. Für deren produktiven Einsatz müssen deshalb eine Reihe von Voraussetzungen erfüllt sein.
Wieviel KI steckt wirklich in Facebooks Muse?
Meta will seine Muse AI als persönlichen Assistenten für den Alltag positionieren, der Nutzern eine Vielzahl von Aufgaben proaktiv abnehmen kann. Doch nun wurde bekannt, dass Meta eine „menschliche Zwischenebene“ testet, bei der ein Callcenter Anrufe, die eigentlich die KI übernehmen soll, „abschließt“.
Tipps für die Einrichtung von KI-Schulungen
Führungskräfte müssen ihre Teams nicht nur schulen, sondern auch dafür sorgen, dass diese Trainingsprogramme richtig ausgerichtet sind. Eine Reihe von Experten geben Tipps, worauf dabei zu achten ist.
Smarte Kühlschränke fallen nach Update komplett aus
Der Vorfall ereignete sich in Südkorea und ausgerechnet vor einem großen Feiertag, im Vorfeld dessen die Menschen ihre smarten Kühlschränke mit Delikatessen füllten. Ein Unternehmenssprecher von Hersteller Samsung bestätigte das Problem und versprach Notfallmaßnahmen, die aber für viele Lebensmittel zu spät kamen.