The Evolutionary Origin of Values: implications for AI alignment, sentience and existential risk
من خلال تتبع القيم وصولاً إلى الدافع لإنتاج الذات من أجل الحفاظ على الذات المتأصل في الحياة البيولوجية، تجادل هذه الورقة بأن النماذج اللغوية الكبيرة "الخارجية الإنتاج" (allopoietic) تفتقر إلى الدافع الجوهري للمخاطرة الوجودية أو الإدراك الحسي، مما ينقل تحدي المواءمة من منع الوكالة المارقة إلى ضمان التطبيق الذكي للقيم الأخلاقية البشرية المتعلمة.