सत्ताएँ › कृत्रिम प्रणालियाँ

बड़े भाषा मॉडल

ट्रांसफ़ॉर्मर न्यूरल नेटवर्क जिन्हें बहुत बड़े पाठ-संग्रहों में अगला टोकन अनुमान लगाने के लिए प्रशिक्षित किया जाता है, और फिर अक्सर इंसानी प्रतिक्रिया पर ट्यून किया जाता है।

ट्रांसफ़ॉर्मर न्यूरल नेटवर्क जिन्हें बहुत बड़े पाठ-संग्रहों में अगला टोकन अनुमान लगाने के लिए प्रशिक्षित किया जाता है, और फिर अक्सर इंसानी प्रतिक्रिया पर ट्यून किया जाता है। वे पूरी संदर्भ-खिड़की पर सेल्फ़-अटेंशन इस्तेमाल करते हैं। 2020 के एक लेख ने 175 अरब पैरामीटर का पैमाना बताया। वे धाराप्रवाह भाषा पैदा करते हैं, इसलिए इंसान जैसा लगता आउटपुट आंतरिक अनुभव की कमज़ोर परख है।

स्रोत

• Vaswani A et al. (2017). Attention is all you need. NeurIPS. arXiv:1706.03762.
• Brown TB et al. (2020). Language models are few-shot learners. NeurIPS 33. arXiv:2005.14165 (175B पैरामीटर).

प्रकाशित मापदंडों पर इसे परखिए