Hybride LLMs verlieren Long-Context-Fähigkeiten durch CoT-Feintuning10. June 202610. June 2026AI Models, Claude CodeCoT-Feintuning degradiert Long-Context-Retrieval in hybriden LLMs durch Verzerrung der Query-Key-Projektionen; QK-Restore behebt dies ohne zusätzliches Training. Share on:
