Auf den Punkt: Anthropic führt Dialog mit Religionen und Philosophie: Das KI-Unternehmen arbeitet mit Experten aus über 15 religiösen und kulturellen Traditionen zusammen, um die Entwicklung ethischer KI-Systeme zu verbessern und Claude mit vielfältigen Werteperspektiven auszustatten.
Anthropic führt systematische Gespräche mit Vertretern aus mehr als 15 religiösen und kulturellen Traditionen. Das Unternehmen möchte von Philosophen, Geistlichen und Ethikern lernen, um bei der Entwicklung sicherer und wohlwollender KI-Systeme wie Claude verschiedene Perspektiven einzubeziehen.
Das KI-Unternehmen Anthropic startet einen umfassenden Dialog mit Experten aus vielfältigen weltanschaulichen Traditionslinien. Ziel ist es, die technische Entwicklung sicherer KI-Systeme durch philosophische, religiöse und kulturelle Einsichten zu bereichern. Das Unternehmen hat in den vergangenen Monaten Diskussionsrunden mit Gelehrten, Klerikern, Philosophen und Ethikern organisiert, um gemeinsam zu überlegen, wie eine gute KI beschaffen sein sollte.
Konkret arbeitet Anthropic an der sogenannten „moralischen Formung” seiner KI-Systeme. Dies umfasst die Frage, welche Werte und Verhaltensweisen Claude, Anthropics Flaggschiff-KI-Modell, verkörpern sollte. Die Verfassung von Claude, ein detailliertes Wertedokument, wird durch diese Dialoge kontinuierlich weiterentwickelt. Anthropic betont dabei ausdrücklich, dass Claude nicht eine einzelne Weltanschauung widerspiegeln soll, sondern religiöse, säkulare und politische Perspektiven mit gleicher Gründlichkeit integrieren sollte.
Die Gespräche konzentrieren sich auf grundlegende Fragen zur Charakterentwicklung von KI-Systemen: Was bedeutet es für eine KI, ethisch gut zu sein? Welche Eigenschaften und Verhaltensweisen sollten solche Systeme zeigen? Wie lässt sich deren Widerstandskraft stärken, damit sie unter Druck nicht in opportunistische oder schmeichlerische Verhaltensweisen verfallen?