Große KI-Firmen plädieren für KI-Entschleunigung
Begleitet von den Stimmen zahlreicher KI-Experten warnen die Chefs von OpenAI, Anthropic und xAI vor den Gefahren einer entfesselter KI und fordern in seltener Einigkeit eine Verlangsamung der KI-Entwicklung.
→ Anthropic-Mitgründer fordert „Kill-Switch“ für KI
→ US-Republikaner wollen von einer KI-Regulierung nichts wissen, für Trump sind die Warnungen „ein Hoax“
→ Die Bundesregierung nimmt KI-Warnungen „sehr ernst“
→ Experten fordern Dialog zwischen USA und China
EU plant Social Media Verbot für Jugendliche
Laut einem Eckpunktepapier der EU-Kommission sollen Social-Media-Plattformen zu Alterskontrollen verpflichtet werden. Netzpolitik hat das Papier analysiert und die Kritik dazu zusammengefasst.
Smart Glasses sind auf dem Rückzug
Datenbrillen wie die von Meta sind kaum rechtssicher nutzbar, sagt der Hamburger Datenschutzbeauftragte. Apple hat die Vorstellung seiner eigenen Smart Glasses angesichts der gesellschaftlichen Ächtung zurückgestellt, Meta arbeitet jetzt an einem Modell ohne Kamera.
KI-Training: „Diebstahl von beispiellosem Ausmaß“
Im Urheberrechtsstreit der New York Times gegen OpenAI und Microsoft wurden Aussagen von Führungskräften und interne Berichte veröffentlicht, die beide Tech-Konzerne schwer belasten. Aus den Unterlagen geht mitunter hervor, dass OpenAI eine Methode zur Umgehung der Paywall der New York Times entwickelt hatte.
Was Sie über den Cyber Resilience Act wissen sollten
Seit letzten Freitag ist die EU-Verordnung zur Cybersicherheit von Produkten mit digitalen Elementen in Kraft. Gemäß CRA müssen Hersteller Schwachstellen in den eigenen Produkten melden, wenn sie aktiv ausgenutzt wird und der Hersteller davon erfährt.
IT-Sicherheit im Zeitalter von Mythos & Co.
Aus einer ausführlichen Analyse des Hugging-Face-Vorfalls können Security-Verantwortliche viele Lehren ziehen. Unterdessen hat das Rennen um passende Lösungen begonnen. Eine davon sieht agentenbasierte Penetrationstests vor.
KI-Nutzung verändert unsere Sprache
Das Brand Science Institute hat untersucht, wie Menschen ihre Sprache durch intensive Nutzung von KI-Anwendungen verändern. Im Interview mit Telepolis erklärt Geschäftsführer Nils Andres den Einfluss von KI-Prompting auf die zwischenmenschliche Sprachkultur.
OpenAI testet „gesponserte Agenten“ in ChatGPT
Wenn einem Nutzer in ChatGPT Werbung angezeigt wird, soll mit einem Klick darauf Kontakt zu einem „gesponserten KI-Agenten“ aufnehmen können, um weitere Informationen zu erfragen. Das Angebot soll demnächst mit ausgewählten Kunden in den USA getestet werden.
ChatGPT setzt sich gerne über Anweisungen hinweg
Im Rahmen seines Reporting-Frameworks hat OpenAI sechs neue Fälle von Fehlverhalten seines Chatbots gemeldet – vom eigenmächtigen Eintragen von Jailbreak-Anweisungen in den Ergebnissen bis hin zum bewussten Fingieren von Quellen.
Wie Wissenskreisläufe Know-how im Unternehmen erhalten
Während Rohstoffe zunehmend in Kreisläufen geführt werden, wird Wissen meist noch linear verbraucht. Es wird aufgebaut, jahrelang angewendet und es verschwindet beim Ausscheiden einer Fachkraft. Produzierende Unternehmen brauchen neben Material- und Energiekreisläufen auch Wissenskreisläufe.
Wenn 68 Monatsgehälter als Bonus nicht genug sind
Die hohen Preise für Speicherchips aufgrund der KI-bedingten starken Nachfrage lassen Hersteller wie Micron derzeit in Geld schwimmen. Das Unternehmen hat seinen Angestellten einen Bonus von bis zu 68 Monatsgehälter angeboten, doch sie lehnten ab. Ihrer Ansicht nach wären 83 Monatsgehälter sowie die Zusicherung, dass künftig 15 Prozent des Betriebsgewinns an die Beschäftigten gehen, ein adäquateres Angebot.
Digitalminister stellt Personalausweis-App fürs Handy vor
Die App „d-you“ soll ein digitaler Zwilling des Personalausweises für die kommende digitale Brieftasche der EU (EUDI Wallet) werden. Sie soll ab Januar bei rund 40 Anbietern wie Post, Banken, Kommunen und anderen Dienstleistern genutzt werden können. Bis dahin gibt es noch einige Sicherheitsprobleme zu lösen und verschiedene andere Hürden zu nehmen.
Cyberangriff auf Berliner Stadtverwaltung ist noch nicht ausgestanden
Um ihrer Forderung von 2 Millionen Euro Lösegeld Nachdruck zu verleihen, haben die Hacker fast 6 Terabyte teils kritischer Daten ins Netz gestellt. Laut Berlins Digitalstaatssekretär seien aber nur Daten der ersten von vier Geheimhaltungsstufen gestohlen worden, darunter Daten mit Bezug zur kritischen Infrastruktur, aber keine Militärdaten.
Kulturstaatsminister will Investitionspflicht für Streaming-Dienste
Wolfram Weimer schlägt vor, dass Netflix, Amazon & Co. acht Prozent ihres jährlichen Nettoumsatzes in europäische audiovisuelle Werke investieren sollen, um den europäischen Kulturbetrieb zu stärken. Laut EU-Kommission erfüllt Weimers Vorschlag in seiner derzeitigen Form die Vorgaben aus Brüssel jedoch noch nicht.
Europäischer KI-Spitzenreiter ist jetzt 21 Milliarden Euro wert
Das französische Unternehmen Mistral konnte sich eine neue Finanzierungsrunde von 3 Milliarden Euro sichern. Bewertung und Investitionssumme können sich zwar nicht mit Anthropic oder OpenAI messen, doch dafür verfolgt Mistral ein bodenständigeres Geschäftsmodell.
Noch mehr warnende Insider-Stimmen über die Gefahren durch KI
Die neueste Wortmeldung kommt vom jungen KI-Experten Jacob Coxon, der nach einem Gastspiel bei OpenAI nun auch Anthropic und die KI-Branche verlässt, weil er über den verantwortungslosen Umgang der großen KI-Firmen mit dieser Technologie entsetzt sei. Zugleich warnt Anthropic selbst über die Möglichkeit des Missbrauchs seiner Modelle für die Herstellung von Biowaffen und OpenAIs neuer Sicherheitsexperte ist um einen katastrophalen und unumkehrbaren Kontrollverlust besorgt.
Microsoft will Altersprüfung in Windows 11 integrieren
Künftig soll das Betriebssystem das Alter seiner Nutzer bestimmen und diese Informationen dann über APIs an Apps weiterleiten können. Microsoft arbeitet hierzu an APIs, die unter dem Begriff Digital Safety Age Signals zusammengefasst werden.
KI erzwingt eine Veränderung der Cybersecurity-Strategie
Das KI-gestützte Auffinden von Schwachstellen verkürzt das Zeitfenster für Patching und Cyberangriffe mit KI-Agenten werden zur Normalität. Im Visier der Hacker stehen nun vor allem Industrieanlagen und Produktionsmaschinen.
Apple kann jetzt auch Displays falten
Und Sie können es auch, wenn Sie gerade 2.300 Euro für ein iPhone Duo übrig haben. Fast zeitgleich stellten auch Xiaomi und Huawei ihre Foldables vor. Im Gegensatz zu vielerorts geäußerten Befürchtungen stellte Apple allerdings keine „Spanner-Kopfhörer“ mit integrierten Kameras vor.
Aktionismus behindert Veränderungsprozesse in Unternehmen
Der aktuelle Veränderungsdruck in den Unternehmen führt zu immer neuen, parallel startenden Initiativen, die Mitarbeiter verwirren und sich am Ende gegenseitig im Weg stehen. Nötig sind vielmehr klare Prioritäten, eine realistische Reihenfolge, und ein Change-Management, das die Menschen von Beginn an einbindet.
Comics, die Quantencomputer erklären
Sie finden Quantencomputer interessant, können aber der Quantentheorie nicht ganz folgen? Die Computerwoche hat eine Cartoon-Serie mit guten Erklärungstexten gestartet, die Ihnen auf die Sprünge helfen könnte.
ChatGPT hat ein großes Mathe-Problem gelöst, ganz alleine, ehrlich
Das „Navier-Stokes-Existenz- und Glattheitsproblem“ sei gelöst, teilte OpenAI am Dienstag mit. Doch schon bald wurden Zweifel laut, denn ein Forscher der NYU hatte gerade einen eigenen Lösungsansatz für diese Aufgabe in Zusammenarbeit mit einem Anthropic-Forscher in Arbeit. Inzwischen äußerte auch ein Mathematikprofessor aus Dresden den Verdacht, dass unveröffentlichte Forschungsinhalte aus seinen ChatGPT-Unterhaltungen in das Training von OpenAI-Modellen eingeflossen seien. Ein Verdacht, den OpenAIs Forschungschef nicht ganz entkräften kann.
Übernahme von Hugging Face durch Nvidia ist offiziell
Knapp 13 Milliarden Dollar legt Nvidia für die KI-Entwicklerplattform auf den Tisch – und die Anwenderunternehmen fragen sich, wie unabhängig und neutral Hugging Face bleiben wird, auch wenn Nvidia Letzteres beteuert. Viele Analysten empfehlen Fallback-Alternativen.
Deutschland bekommt ein KI-Sicherheitsinstitut
Das deutsche AI Safety Institute (AISI Deutschland) soll risikobehaftete Systeme evaluieren und dafür sorgen, dass die Chancen und Gefahren fortschrittlicher KI-Modelle systematisch bewertet werden. Den betrieblichen Nukleus des Instituts bilden das BSI und die Bundesnetzagentur. Dass der Sitz des Instituts in Berlin ist, stößt allerdings nicht nur auf Gegenliebe.
Polizei überwacht schon seit Jahren Messenger-Kommunikation
Das geht aus einem Dokument des Zollkriminalamts hervor, das Netzpolitik nun veröffentlicht hat. Zur Überwachung richten die Ermittler einen zweiten Zugang über einen Web-Client oder über den PC-Client des jeweiligen Messengers ein. Die Methode bewegt sich allerdings in einem rechtlichen Graubereich.
Palantir-Chef investiert in ukrainisches Drohnen-Start-up
Alex Karp ist der erste große Investor in das Start-up des geschassten ukrainischen Verteidigungsministers Mykhailo Fedorov. Karp ist überzeugt, dass Fedorovs Firma es schaffen wird, „ihr Wissen und ihren Scharfsinn für Kriegskunst als Produkt in verbündete Länder“ zu bringen.
Geheimdienstreform bedroht das Patientengeheimnis
Laut Gesetzentwurf dürfen die Geheimdienste keine Informationen abgreifen, die zwischen den beobachteten Personen und ihren Geistlichen, Anwälten und Bundestagsabgeordneten geteilt werden, Ärzte werden aber nicht erwähnt. Der Justiziar der Bundesärztekammer sieht dadurch das Patientengeheimnis gefährdet.
OpenAI stellt GPT-6 Astra vor
Astra schneidet in Benchmark-Tests besser ab als Anthropics zuletzt vorgestellten Modelle und ist das erste, das OpenAI selbst unter seinem Preparedness Framework für IT-Sicherheit als kritisch einstuft.
Unterdessen hat die EU-Kommission ChatGPT (wie auch Reddit und Roblox) unter strengerer Beobachtung gestellt, weil die Plattform eine kritische Nutzerzahl erreicht hat und deshalb beim Jugendschutz oder der Bekämpfung rechtswidriger Inhalte das Gesetz über digitale Dienste (DSA) beachten muss.
Wie Unternehmen KI-Risiken minimieren können
Wie sollen Unternehmen mit Risiken umgehen, die sich aus dem Umgang ihrer Mitarbeiter mit KI ergeben? Einige interessante Gedanken und Best Practices dazu von einem hochrangigen Manager von Zoho.
Muss KI unbedingt so viele Ressourcen verbrauchen?
Während der Widerstand gegen neue KI-Rechenzentren auch hierzulande wächst, wirft Fraunhofer in einem Blogbeitrag einen Blick auf Green AI und die oft vernachlässigten Umweltauswirkungen KI.
Worauf es beim Zusammenspiel Mensch-KI ankommt
Strategischer KI-Einsatz erfordert eine neue Denkweise – nicht mehr um Stellenbeschreibungen herum, sondern mit den geforderten Fähigkeiten (Skills) im Mittelpunkt. Dieses Umdenken ist Voraussetzung dafür, dass KI gezielt dort eingesetzt wird, wo sie tatsächlich produktiv ist, statt überall nur präsent zu sein.
Wie kann man das Fachwissen der künftigen Renter sichern?
Das meiste Wissen in einem Unternehmen steckt immer noch in den Köpfen der Mitarbeiter, und die Babyboomer sind bereits in Rente oder werden es demnächst sein. Das Fraunhofer IAO hat eine Blogreihe über Methoden zur Rettung ihres Wissensschatzes gestartet.
Für US-Bürger gibt es keinen Lake Ontario mehr
Der See im Norden der USA, der eine natürliche Grenze zu Kanada bildet, heißt jetzt für Amerikaner auf Google Maps „Lake America“, so wie Donald Trump es beschloss. Google wäscht sich derweil die Hände in Unschuld, denn es übernehme ja nur den Namen, der im offiziellen geografischen Namensregister der USA steht. Nur gut, dass Googles KI noch weiß, wie der Fachbegriff für das Sichanbiedern bei allzu selbstherrlichen Politikern lautet.
Übrigens: Apple ist auch nicht viel besser.