K-Way Energy Probes for Metacognition Reduce to Softmax in Discriminative Predictive Coding Networks
यह शोध पत्र एक नकारात्मक परिणाम प्रस्तुत करता है जो यह दर्शाता है कि मानक विभेदक प्रिडिक्टिव कोडिंग नेटवर्क (Predictive Coding Networks) में K-वे एनर्जी प्रोब्स (K-way energy probes), सॉफ्टमैक्स (softmax) की तुलना में अधिक समृद्ध सिग्नल प्रदान नहीं करते हैं, क्योंकि वे गणितीय रूप से सॉफ्टमैक्स मार्जिन के एक मोनोटोन फलन (monotone function) में बदल जाते हैं और CIFAR-10 पर विभिन्न प्रशिक्षण एवं अनुमान स्थितियों में प्रदर्शन में सॉफ्टमैक्स से भी पीछे रह जाते हैं।