OpenAI, Anthropic und KI-Experten fordern globale KI-Regulierung
Bei einer Sitzung des UN-Sicherheitsrats zum Thema Gefahren durch KI haben Vertreter der Tech-Branche vor den Risiken dieser Technologie gewarnt und für ein langsameres Vorgehen plädiert. Vorausgegangen waren zahlreiche Warnungen von KI-Experten vor dem Gefahrenpotenzial der KI sowie Forderungen von Politikern vieler Länder nach einer weltweiten KI-Regulierung.
Die Sorgen um die Gefahren mögen berechtigt sein, doch dass ausgerechnet OpenAI und Anthropic am lautesten Alarm schlagen, während Google sich auffällig zurückhält, könnte auf ein anderes Problem deuten. Die beiden leben momentan von Investorengeld, sind stark defizitär, ihnen geht aufgrund der großen Nachfrage die Rechenkapazität aus und der geplante Börsengang musste bei beiden verschoben werden, weil der Markt ihre angepeilten Unternehmensbewertungen nicht mitträgt. Google hat diese Probleme nicht. Es baut seine KI-Prozessoren und Rechenzentren selbst, ist hochprofitabel und hat ein umfassendes KI-Anwendungsportfolio, mit dem es Unternehmen ansprechen kann – mit niedrigeren Preisen. Eine weltweite Verlangsamung des KI-Wettlaufs könnte OpenAI und Anthropic etwas Luft verschaffen. Doch sie ist nicht in Sicht, weil auch China nichts davon hätte. Entsprechend gab es beim Treffen zwischen Donald Trump und Xi Jinping nichts über KI-Regulierung zu verlautbaren, außer die Einrichtung eines KI-Gesprächskanal für Notfälle zu prüfen.
OpenAI und Google erneut mit Hacks in den Schlagzeilen
Bereits im Juni verschafften sich autonome KI-Agenten von OpenAI Zugang zu einer Website der Regierung von Australien und griffen auf Daten der Gesundheitsbehörde zu. OpenAI informierte die Behörden erst im September und erntete dafür reichlich Kritik. Googles KI hackte bereits im Mai drei Unternehmen, machte den Vorfall aber nicht öffentlich, weil „kein Schaden entstanden“ sei.
Ausspionieren von Standorten kostet Google 403 Millionen Euro
Zwischen 2018 und 2020 hat Google den Standort seiner Android-Nutzer ohne deren Zustimmung verarbeitet. Die irische Datenschutzbehörde hat sich weitere Strafzahlungen vorbehalten, doch die Strafsumme wird angesichts von Googles Profiten und der Schwere des Vergehens von vielen Datenschützern als viel zu klein empfunden.
Investitionen in KI steigen um fast 50 Prozent
Einer Schätzung von Gartner zufolge werden die weltweiten Ausgaben für KI dieses Jahr um 49,5 Prozent auf 2,7 Billionen Dollar steigen, nächstes Jahr um weitere 36,2 Prozent. Laut Bitkom steigen die KI-Investitionen in Deutschland dieses Jahr um 48 Prozent, im nächsten Jahr um 40 Prozent.
Kommt die Nutzung personenbezogener Daten für KI-Training?
Die Datenschutzorganisation von ‚Facebook-Schreck’ Max Schrems befürchtet, dass im Rahmen des kommenden Digitalen-Omnibus-Gesetzes der EU KI-Konzernen eine Pauschalerlaubnis für den Zugriff auf personenbezogene Daten für das Training ihrer KI-Modelle erteilt wird. Der Zugriff auf solche Daten soll zu „berechtigten Interesse“ erklärt werden, während die Cookie-Banner abgeschafft werden.
KI-Agenten kosten noch viel Aufwand, bringen aber wenig Ertrag
Eine Untersuchung von McKinsey ergab, dass nur 37 Prozent der Unternehmen bei ihren KI-Initiativen positive Auswirkungen auf ihre Erträge verzeichnen können, während 93 Prozent von ihnen ihre KI-Budgets sprengen. Agentic AI sei wiederum technisch noch nicht ausgereift genug, um eine positive Wirkung zu entfalten.
Nach der Schatten-Cloud und Schatten-KI: Shadow Agents
In einer Umfrage von Veeam berichten Unternehmen von Sicherheitsbedenken bei KI-Workflows und autonomen KI-Agenten. Gleichzeitig steigt der Druck auf Führungskräfte wegen der steigenden Rechenschaftspflicht samt persönlicher Haftung sowie der mangelnde Daten-Governance.
Voraussetzungen für den Einsatz von KI-Agenten in Workflows
KI-Agenten sind nicht einfach irgendeine Anwendung, sondern stellen einen grundlegenden Wandel im Hinblick auf die internen Prozesse dar. Für deren produktiven Einsatz müssen deshalb eine Reihe von Voraussetzungen erfüllt sein.
Wieviel KI steckt wirklich in Facebooks Muse?
Meta will seine Muse AI als persönlichen Assistenten für den Alltag positionieren, der Nutzern eine Vielzahl von Aufgaben proaktiv abnehmen kann. Doch nun wurde bekannt, dass Meta eine „menschliche Zwischenebene“ testet, bei der ein Callcenter Anrufe, die eigentlich die KI übernehmen soll, „abschließt“.
Tipps für die Einrichtung von KI-Schulungen
Führungskräfte müssen ihre Teams nicht nur schulen, sondern auch dafür sorgen, dass diese Trainingsprogramme richtig ausgerichtet sind. Eine Reihe von Experten geben Tipps, worauf dabei zu achten ist.
Smarte Kühlschränke fallen nach Update komplett aus
Der Vorfall ereignete sich in Südkorea und ausgerechnet vor einem großen Feiertag, im Vorfeld dessen die Menschen ihre smarten Kühlschränke mit Delikatessen füllten. Ein Unternehmenssprecher von Hersteller Samsung bestätigte das Problem und versprach Notfallmaßnahmen, die aber für viele Lebensmittel zu spät kamen.
Große KI-Firmen plädieren für KI-Entschleunigung
Begleitet von den Stimmen zahlreicher KI-Experten warnen die Chefs von OpenAI, Anthropic und xAI vor den Gefahren einer entfesselter KI und fordern in seltener Einigkeit eine Verlangsamung der KI-Entwicklung.
→ Anthropic-Mitgründer fordert „Kill-Switch“ für KI
→ US-Republikaner wollen von einer KI-Regulierung nichts wissen, für Trump sind die Warnungen „ein Hoax“
→ Die Bundesregierung nimmt KI-Warnungen „sehr ernst“
→ Experten fordern Dialog zwischen USA und China
EU plant Social Media Verbot für Jugendliche
Laut einem Eckpunktepapier der EU-Kommission sollen Social-Media-Plattformen zu Alterskontrollen verpflichtet werden. Netzpolitik hat das Papier analysiert und die Kritik dazu zusammengefasst.
Smart Glasses sind auf dem Rückzug
Datenbrillen wie die von Meta sind kaum rechtssicher nutzbar, sagt der Hamburger Datenschutzbeauftragte. Apple hat die Vorstellung seiner eigenen Smart Glasses angesichts der gesellschaftlichen Ächtung zurückgestellt, Meta arbeitet jetzt an einem Modell ohne Kamera.
KI-Training: „Diebstahl von beispiellosem Ausmaß“
Im Urheberrechtsstreit der New York Times gegen OpenAI und Microsoft wurden Aussagen von Führungskräften und interne Berichte veröffentlicht, die beide Tech-Konzerne schwer belasten. Aus den Unterlagen geht mitunter hervor, dass OpenAI eine Methode zur Umgehung der Paywall der New York Times entwickelt hatte.
Was Sie über den Cyber Resilience Act wissen sollten
Seit letzten Freitag ist die EU-Verordnung zur Cybersicherheit von Produkten mit digitalen Elementen in Kraft. Gemäß CRA müssen Hersteller Schwachstellen in den eigenen Produkten melden, wenn sie aktiv ausgenutzt wird und der Hersteller davon erfährt.
IT-Sicherheit im Zeitalter von Mythos & Co.
Aus einer ausführlichen Analyse des Hugging-Face-Vorfalls können Security-Verantwortliche viele Lehren ziehen. Unterdessen hat das Rennen um passende Lösungen begonnen. Eine davon sieht agentenbasierte Penetrationstests vor.
KI-Nutzung verändert unsere Sprache
Das Brand Science Institute hat untersucht, wie Menschen ihre Sprache durch intensive Nutzung von KI-Anwendungen verändern. Im Interview mit Telepolis erklärt Geschäftsführer Nils Andres den Einfluss von KI-Prompting auf die zwischenmenschliche Sprachkultur.
OpenAI testet „gesponserte Agenten“ in ChatGPT
Wenn einem Nutzer in ChatGPT Werbung angezeigt wird, soll mit einem Klick darauf Kontakt zu einem „gesponserten KI-Agenten“ aufnehmen können, um weitere Informationen zu erfragen. Das Angebot soll demnächst mit ausgewählten Kunden in den USA getestet werden.
ChatGPT setzt sich gerne über Anweisungen hinweg
Im Rahmen seines Reporting-Frameworks hat OpenAI sechs neue Fälle von Fehlverhalten seines Chatbots gemeldet – vom eigenmächtigen Eintragen von Jailbreak-Anweisungen in den Ergebnissen bis hin zum bewussten Fingieren von Quellen.
Wie Wissenskreisläufe Know-how im Unternehmen erhalten
Während Rohstoffe zunehmend in Kreisläufen geführt werden, wird Wissen meist noch linear verbraucht. Es wird aufgebaut, jahrelang angewendet und es verschwindet beim Ausscheiden einer Fachkraft. Produzierende Unternehmen brauchen neben Material- und Energiekreisläufen auch Wissenskreisläufe.
Wenn 68 Monatsgehälter als Bonus nicht genug sind
Die hohen Preise für Speicherchips aufgrund der KI-bedingten starken Nachfrage lassen Hersteller wie Micron derzeit in Geld schwimmen. Das Unternehmen hat seinen Angestellten einen Bonus von bis zu 68 Monatsgehälter angeboten, doch sie lehnten ab. Ihrer Ansicht nach wären 83 Monatsgehälter sowie die Zusicherung, dass künftig 15 Prozent des Betriebsgewinns an die Beschäftigten gehen, ein adäquateres Angebot.
Digitalminister stellt Personalausweis-App fürs Handy vor
Die App „d-you“ soll ein digitaler Zwilling des Personalausweises für die kommende digitale Brieftasche der EU (EUDI Wallet) werden. Sie soll ab Januar bei rund 40 Anbietern wie Post, Banken, Kommunen und anderen Dienstleistern genutzt werden können. Bis dahin gibt es noch einige Sicherheitsprobleme zu lösen und verschiedene andere Hürden zu nehmen.
Cyberangriff auf Berliner Stadtverwaltung ist noch nicht ausgestanden
Um ihrer Forderung von 2 Millionen Euro Lösegeld Nachdruck zu verleihen, haben die Hacker fast 6 Terabyte teils kritischer Daten ins Netz gestellt. Laut Berlins Digitalstaatssekretär seien aber nur Daten der ersten von vier Geheimhaltungsstufen gestohlen worden, darunter Daten mit Bezug zur kritischen Infrastruktur, aber keine Militärdaten.
Kulturstaatsminister will Investitionspflicht für Streaming-Dienste
Wolfram Weimer schlägt vor, dass Netflix, Amazon & Co. acht Prozent ihres jährlichen Nettoumsatzes in europäische audiovisuelle Werke investieren sollen, um den europäischen Kulturbetrieb zu stärken. Laut EU-Kommission erfüllt Weimers Vorschlag in seiner derzeitigen Form die Vorgaben aus Brüssel jedoch noch nicht.
Europäischer KI-Spitzenreiter ist jetzt 21 Milliarden Euro wert
Das französische Unternehmen Mistral konnte sich eine neue Finanzierungsrunde von 3 Milliarden Euro sichern. Bewertung und Investitionssumme können sich zwar nicht mit Anthropic oder OpenAI messen, doch dafür verfolgt Mistral ein bodenständigeres Geschäftsmodell.
Noch mehr warnende Insider-Stimmen über die Gefahren durch KI
Die neueste Wortmeldung kommt vom jungen KI-Experten Jacob Coxon, der nach einem Gastspiel bei OpenAI nun auch Anthropic und die KI-Branche verlässt, weil er über den verantwortungslosen Umgang der großen KI-Firmen mit dieser Technologie entsetzt sei. Zugleich warnt Anthropic selbst über die Möglichkeit des Missbrauchs seiner Modelle für die Herstellung von Biowaffen und OpenAIs neuer Sicherheitsexperte ist um einen katastrophalen und unumkehrbaren Kontrollverlust besorgt.
Microsoft will Altersprüfung in Windows 11 integrieren
Künftig soll das Betriebssystem das Alter seiner Nutzer bestimmen und diese Informationen dann über APIs an Apps weiterleiten können. Microsoft arbeitet hierzu an APIs, die unter dem Begriff Digital Safety Age Signals zusammengefasst werden.
KI erzwingt eine Veränderung der Cybersecurity-Strategie
Das KI-gestützte Auffinden von Schwachstellen verkürzt das Zeitfenster für Patching und Cyberangriffe mit KI-Agenten werden zur Normalität. Im Visier der Hacker stehen nun vor allem Industrieanlagen und Produktionsmaschinen.
Apple kann jetzt auch Displays falten
Und Sie können es auch, wenn Sie gerade 2.300 Euro für ein iPhone Duo übrig haben. Fast zeitgleich stellten auch Xiaomi und Huawei ihre Foldables vor. Im Gegensatz zu vielerorts geäußerten Befürchtungen stellte Apple allerdings keine „Spanner-Kopfhörer“ mit integrierten Kameras vor.
Aktionismus behindert Veränderungsprozesse in Unternehmen
Der aktuelle Veränderungsdruck in den Unternehmen führt zu immer neuen, parallel startenden Initiativen, die Mitarbeiter verwirren und sich am Ende gegenseitig im Weg stehen. Nötig sind vielmehr klare Prioritäten, eine realistische Reihenfolge, und ein Change-Management, das die Menschen von Beginn an einbindet.
Comics, die Quantencomputer erklären
Sie finden Quantencomputer interessant, können aber der Quantentheorie nicht ganz folgen? Die Computerwoche hat eine Cartoon-Serie mit guten Erklärungstexten gestartet, die Ihnen auf die Sprünge helfen könnte.
ChatGPT hat ein großes Mathe-Problem gelöst, ganz alleine, ehrlich
Das „Navier-Stokes-Existenz- und Glattheitsproblem“ sei gelöst, teilte OpenAI am Dienstag mit. Doch schon bald wurden Zweifel laut, denn ein Forscher der NYU hatte gerade einen eigenen Lösungsansatz für diese Aufgabe in Zusammenarbeit mit einem Anthropic-Forscher in Arbeit. Inzwischen äußerte auch ein Mathematikprofessor aus Dresden den Verdacht, dass unveröffentlichte Forschungsinhalte aus seinen ChatGPT-Unterhaltungen in das Training von OpenAI-Modellen eingeflossen seien. Ein Verdacht, den OpenAIs Forschungschef nicht ganz entkräften kann.