ہستیاں › مصنوعی نظام

بڑے لسانی ماڈل

ٹرانسفارمر عصبی نیٹ ورک جو بہت بڑے متنی ذخیروں میں اگلا ٹوکن پیش گوئی کرنے کے لیے تربیت پاتے ہیں، پھر اکثر انسانی رائے پر ٹیون کیے جاتے ہیں۔

ٹرانسفارمر عصبی نیٹ ورک جو بہت بڑے متنی ذخیروں میں اگلا ٹوکن پیش گوئی کرنے کے لیے تربیت پاتے ہیں، پھر اکثر انسانی رائے پر ٹیون کیے جاتے ہیں۔ وہ پورے سیاق کی کھڑکی پر خود توجہی استعمال کرتے ہیں۔ 2020 کے ایک مقالے نے 175 ارب پیرامیٹرز کا پیمانہ بتایا۔ وہ رواں زبان پیدا کرتے ہیں، اس لیے انسان جیسا لگنے والا نتیجہ باطنی تجربے کی کمزور آزمائش ہے۔

ماخذ

• Vaswani A et al. (2017). Attention is all you need. NeurIPS. arXiv:1706.03762.
• Brown TB et al. (2020). Language models are few-shot learners. NeurIPS 33. arXiv:2005.14165 (175B parameters).

اسے شائع شدہ معیاروں پر پرکھیں