Digitale Agenda Die Nachrichten der Woche aus der digitalen Welt, jeden Freitag Nachmittag.

  • Digitale Agenda KW 48 | 2023

    Diese Woche

    AI Act: KI-Experten sprechen sich gegen Selbstregulierung aus
    Vor der letzten Verhandlungsrunde über die KI-Verordnung der EU (AI Act) raten prominente KI-Forscher in einem offenen Brief dringend vor einer Selbstregulierung der KI-Konzerne ab, wie sie von der Bundesregierung befürwortet wird. Derweil unterzeichneten 18 Länder, darunter die USA und Deutschland, ein unverbindliches Abkommen zum Schutz von „Kunden“ vor KI-Missbrauch.

    EU will kein Widerspruchsrecht bei Nutzung von Gesundheitsdaten
    EU-Kommission und EU-Parlament haben sich gegen ein umfassendes Widerspruchsrecht der Bürger gegen die Speicherung von digitalen Patientenakten im kommenden Europäischen Gesundheitsdatenraum ausgesprochen. 

    Amazons KI-Chatbot Q tritt gegen Microsofts Copilot an
    Laut Amazon ist Q eine neue Art von GenAI-Assistenzsystem, das speziell für den Einsatz an persönlichen Arbeitsplätzen entwickelt wurde. Damit lasse es sich sowohl in Tools der AWS-Cloud einbinden als auch in andere Anwendungen wie Slack integrieren. 

    So funktioniert Amazons Lobbyarbeit in der EU
    Die Bürgerrechtler von LobbyControl wunderten sich lange Zeit über die relativ geringen Ausgaben von Amazon für Lobbyismus in Brüssel. Letztere war wohl nur die Spitze des Eisbergs. Die eigentliche Lobbyarbeit findet über Dritte statt. 

    Neues Bundeswaldgesetz will Kartographieren neuer Wege einschränken
    Das Open-Source-Projekt Open Street Map ist vom aktuellen Entwurf des Bundeswaldgesetzes ebenso verunsichert wie Mountainbiker-Verbände.

    Tech

    Das schmutzige Geheimnis der generativen KI
    KI-Systeme wie ChatGPT verdanken ihre „Intelligenz“ Millionen von schlecht bezahlten und teilweise minderjährigen Clickarbeitern im globalen Süden. Darüber wurde bereits im Sommer berichtet, nun hat die Bertelsmann-Stiftung weitere brisante Informationen zusammengetragen. 

    KI-Plattformen lassen sich mittels KI manipulieren
    Vor den Fähigkeiten Künstlicher Intelligenz sind offenbar nicht einmal KI-Plattformen hinreichend geschützt. So haben Forscher des KI-Startups Leap Laboratories einen Weg gefunden, Jailbreaks zu automatisieren. 

    ChatGPT verrät über einen Trick seine Trainingsdaten
    KI-Experten von Google und verschiedener Universitäten haben ein spezielles Prompt gefunden, über das ChatGPT 3.5 sich seine eigentlich geheimen Trainingsdaten entlocken lässt. Die Kollegen von Heise haben es ausprobiert.

    Digitale Arbeit

    So lässt sich Schatten-IT zu einem Vorteil ausbauen
    Das Problem der Schatten-IT haben die meisten Unternehmen noch nicht lösen können. Ein IT-Experte hat eine Methode entwickelt, wie sich Schatten-IT in 7 Schritten zu einem Wettbewerbsvorteil umwandeln lässt. 

    Wo GenAI sich heute schon sinnvoll einsetzen lässt – und wo nicht
    Wer bisher versucht hat, menschliche Arbeit komplett an eine generative KI wie ChatGPT zu übertragen, ist meist auf dem Bauch gelandet. Als Assistenzsysteme werden diese KI-Tools allerdings immer besser.

    Zu guter Letzt ...

    Das Posten fremder Fotos auf Facebook kann teuer werden
    … und zwar auch dann, wenn es einen guten Zweck unterstützen sollte. Letzteres war die Absicht eines Handwerkers aus Berlin, der mit seinem Posting Werbung für einen Spendenkalender machen wollte. Nach fünf Jahren und mehreren Gerichtsverhandlungen sind mehrere Tausend Euro Strafe fällig. 

  • Digitale Agenda KW 47 | 2023

    Diese Woche

    OpenAI feuert CEO und holt ihn prompt wieder zurück
    Erst wurde Sam Altman letzten Freitag fristlos entlassen, dann fand er kurzzeitig einen sicheren Hafen bei Microsoft, dann drohten Hunderte OpenAI-Mitarbeiter ihm zu Microsoft zu folgen und schließlich kehrte er triumphierend zu OpenAI zurück.
    Der Grund für den Streit: Geht Sicherheit vor Profit oder umgekehrt? 
    Die Gewinner: Microsoft und die anderen OpenAI-Investoren
    Die Moral von der Geschicht‘: KI-Regulierung ist Sache der Politik, nicht der Industrie (€)

    Der Streit bei OpenAI ist bezeichnend für die aktuelle KI-Debatte
    Während die Regierungen von Deutschland, Frankreich, Italien und anderer Ländern der Logik der Industrie folgen und KI-Basismodelle nicht streng regulieren wollen, betrachtet das EU-Parlament dies als Kriegserklärung. Am 6. Dezember ist Showdown um den AI Act.

    Lässt sich KI in der Praxis fair und nachvollziehbar einsetzen?
    Zumindest die Notwendigkeit dafür ist zweifellos vorhanden. Der DGB fordert Mitbestimmung, für den öffentlichen Dienst ist ein KI-Transparenzregister im Gespräch, und Fraunhofer forscht an erklärbarer KI (Explainable AI, XAI).

    Weltweite Proteste gegen Amazon zum Black Friday
    Unter dem Motto Make Amazon Pay haben sich 80 Organisationen und 400 Abgeordnete weltweit zusammengeschlossen, um gegen Amazons Steuervermeidung und Ausbeutung zu protestieren, auch in Berlin.

    Fingerabdrucksensor von Windows-Geräten gehackt
    Auf Einladung von Microsoft stellten Security-Forscher das Fingerabdruck-basierte Sicherheitsverfahren bei PCs verschiedener Hersteller auf die Probe. Die Geräte von Lenovo und Dell konnten gehackt werden, Microsofts eigenes Surface Pro X fiel glatt durch.

    Tech

    ChatGPT ist fast perfekt beim Fälschen wissenschaftlicher Studien
    Forscher haben mit GPT-4 gefälschte Daten generiert, um damit eine nicht überprüfte wissenschaftliche These zu untermauern. Mit etwas manueller Nachbearbeitung würde man die Daten nicht mehr von echten Testergebnissen unterscheiden können. 

    Sind Microsoft-Netzwerke inhärent unsicher?
    Zu diesem Ergebnis kommt Holger Voges nach einer 25jährigen Tätigkeit als Berater für Windows-Netzwerke. Das müssten sie aber nicht sein, wenn Microsoft eine sichere Konfiguration, die es tatsächlich gibt, etwas offensichtlicher zeigen würde. 

    Unternehmen sehen Cloud-Infrastruktur als größte Risikoquelle
    Eine Studie von Tenable beleuchtet die Herausforderungen, denen sich Cyber-Sicherheits- und IT-Führungskräfte beim Schutz ihrer zunehmend komplexen und wachsenden Angriffsfläche gegenübersehen.

    Digitale Arbeit

    Wie KI und Automatisierung gegen Burnout helfen kann
    KI-Bots können Aufgaben übernehmen, die Angestellte frustrieren, Zeit rauben und nicht selten Überstunden nötig machen: repetitive Fleißarbeit wie Formulare ausfüllen, Daten übertragen oder Berichte erstellen. 

    Bill Gates hält eine Drei-Tage-Arbeitswoche für möglich – dank KI
    Wenn eines Tages „Maschinen alle Lebensmittel und andere Dinge herstellen können“, werden Menschen nicht mehr so hart arbeiten müssen, sagt Gates – und investiert fleißig in künstlich hergestelltem Fleisch und synthetische Muttermilch. 

    Zu guter Letzt ...

    OpenAI: Wie Game of Thrones, nur in Echtzeit
    Die Posse um OpenAI-Chef Sam Altman wurde auch auf Twitter kommentiert (Zusammenfassung im Spiegel) – vielleicht nicht ganz so fundiert wie in der Fachpresse oder in der Industrie, dafür umso unterhaltsamer und facettenreicher (sogar Altmans Schwester musste ein paar nicht sehr nette Worte über ihn loswerden).

  • Digitale Agenda KW 46 | 2023

    Diese Woche

    Microsoft will eigene KI-Chips bauen
    Microsofts neue CPU Azure Cobalt 100 auf Basis von ARM und der KI-Prozessor Azure Maia 100 sollen ab 2024 zum Einsatz kommen, kündigte der Hersteller auf seiner Hausmesse Ignite an. Beide sind zunächst nur für die eigenen Infrastruktur vorgesehen. 

    Chatkontrolle verstößt gegen EU-Grundrechte
    Zu diesem Ergebnis kommt das Gutachten eines ehemaligen Richters am Europäischen Gerichtshof (EuGH). Unterdessen positioniert sich auch der Innenausschuss des EU-Parlaments gegen eine anlasslose Überwachung der Messenger-Kommunikation und eine Aufhebung der Verschlüsselung. 

    Digital Services Act: EU-Verfahren gegen Amazon
    Die EU-Kommission hat an Amazon zunächst ein „förmliches Auskunftsersuchen“ gerichtet, um zu erfahren, was das Unternehmen gegen die Verbreitung illegaler Produkte und den Schutz der Grundrechte von EU-Bürgern unternimmt.

    EuGH weist Zensurbestrebungen in die Schranken
    Nationale Gesetze wie das deutsche Netzdurchsetzungsgesetz (NetzDG) zur Löschung von Inhalten auf sozialen Netzwerken verstoßen gegen europäisches Recht, sagt der EuGH. Das Urteil kann großen Einfluss auf laufende Verfahren gegen das NetzDG haben. 

    Alarm im Gesundheitswesen wegen Microsoft-Lizenzkosten
    Wenn Microsoft den Support für seine herkömmlichen Lizenzmodelle wie geplant in zwei Jahren einstellt, braucht jeder Nutzer ein eigenes Office-Abonnement. Das würde zu einer Kostenexplosion bei Arbeitsplätzen führen, die von mehreren Personen genutzt werden. 

    Tech

    Humane stellt KI-Gerät fürs Revers vor
    Das von ehemaligen Apple-Mitarbeitern gegründete Startup hat seinen AI Pin auf der Pariser Modenschau offiziell vorgestellt. Das etwa 5cm große Gerät kommt ohne Bildschirm aus und kommuniziert mit dem Nutzer über Sprache und einen Mini-Beamer. 

    Studie über die aktuelle Entwicklung im Quantencomputing
    Wissenschaftler der Uni München haben sich bei Experten erkundigt, welche Kompetenzen, Werkzeuge und Prozesse bei der Entwicklung von Quantencomputing-Lösungen nötig sind und wie Wirtschaft und Wissenschaft am besten davon profitieren können.

    Warum überträgt das neue Outlook Zugangsdaten an Microsoft?
    Für Aufregung hatte die Entdeckung der Zeitschrift c’t gesorgt, dass das neue Outlook die Zugangsdaten des Nutzers an den Microsoft-Cloud-Server weiterleitet. Microsofts Argument, dass dies der besseren Synchronisation diene, klingt nicht sehr überzeugend. 

    Digitale Arbeit

    Vorsicht bei der Nutzung von ChatGPT am Arbeitsplatz
    Generative KI-Tools wie ChatGPT, Google Bard oder Microsoft Copilot bieten wertvolle Hilfe, doch Nutzer werden häufig dazu verführt, sensible Daten an diese Dienste zu übertragen. Hier eine kleine Liste der No-Gos. 

    Chefs nehmen es nicht sehr genau mit der Cybersecurity
    Eine Umfrage von Ivanti zeigt, dass Führungskräfte meist mit umfangreichen Zugangsrechten ausgestattet sind, häufig aber fahrlässig damit umgehen. Jeder zweite umgeht auch gerne die Sicherheitsvorschriften. 

    Zu guter Letzt ...

    Sind wir schon im Techno-Feudalismus angekommen?
    Falls nicht, sind wir nicht mehr allzu weit davon entfernt, schreibt der ehemalige griechische Finanzminister Yanis Varoufakis in seinem neuen Buch. Nicht mehr wir bestimmen, was wir lesen oder einkaufen, sondern Plattformen wie Google oder Amazon, denn unser Verhalten ist dank des Internet of Behaviors längst im Visier der Tech-Konzerne.