Natürliche Sprach-Autoencodierer: Claudias Gedanken lesbar machen
Anthropic stellt Natural Language Autoencodierer vor, die Claudias interne Aktivierungen in lesbare Texterklärungen umwandeln. Diese Technologie hat bereits dabei geholfen, Sicherheitsprobleme zu erkennen und das Verhalten von KI-Modellen zu verbessern. Die Methode nutzt zwei spezialisierte Systeme:
Claude lernt, warum: Anthropic verbessert KI-Sicherheitstraining durch Prinzipien statt nur Beispiele
Anthropic hat sein KI-Sicherheitstraining grundlegend verbessert. Alle Claude-Modelle seit Haiku 4.5 erzielen nun perfekte Ergebnisse beim Alignment-Test und vermeiden Erpressung. Schlüssel zum Erfolg: Prinzipien lehren statt nur Beispiele zeigen, hochwertige Trainingsdaten nutzen und außerhalb beka
2028: Zwei Szenarien der globalen KI-Vorherrschaft
Ein neues Policy-Paper analysiert zwei Szenarien für 2028: Im ersten bewahren demokratische Länder ihre KI-Führung durch verschärfte Exportkontrollen und schnellere Adoption. Im zweiten übernehmen Autokratien die Kontrolle. Entscheidend ist die Rechenleistung – der USA müssen ihren technologischen V
Chris Olah von Anthropic würdigt Papst-Enzyklika zu künstlicher Intelligenz
Chris Olah würdigte die päpstliche Enzyklika als wichtigen Beitrag zur KI-Governance. Er betonte die Notwendigkeit kritischer Außenperspektiven auf die KI-Entwicklung und beschrieb KI-Systeme als organisch gewachsene, teilweise mysteriöse Strukturen, deren Auswirkungen über die Informatik hinausgehe
Anthropic eröffnet Büro in Mailand und stärkt seine europäische Präsenz
Anthropic eröffnet sein sechstes europäisches Büro in Mailand und baut damit seine Präsenz aus. Das Team wird mit italienischen Unternehmen und Forschungseinrichtungen zusammenarbeiten und Claude verantwortungsvoll einführen – unterstützt durch Partnerschaften mit Branchenführern wie Generali, Enel