ایک سلسلہ ماڈل جو ایمان داری سے خراب ہے
ایک لینگویج ماڈل جو بالکل مختلف طریقۂ کار پر بنا ہے — باقی سب جس توجہ کی ریاضی پر چلتے ہیں، یہ اس کے بجائے کسی سطح پر پھیلتی کیمیا کے زیادہ قریب ہے۔ یہ ٹرانسفارمر سے خراب کارکردگی دکھاتا ہے، اور اس کا اپنا صفحۂ اوّل یہی کہتا ہے۔ ذرا سا خراب نہیں: معیاری پیمانے یعنی پرپلیکسٹی (PPL) پر، بنیاد کے طور پر Generative Pre-trained Transformer 2 (GPT-2) کے مقابل چار درجے خراب، اور یہ بات کسی حاشیے میں نہیں بلکہ اسی صفحے پر چھپی ہے۔ اسے تحقیقی روزنامچے کے طور پر شائع کیا گیا ہے، کیونکہ دستاویزی ناکامی کی قیمت ہوتی ہے اور مٹا دی گئی ناکامی کی نہیں۔
GPT-2 کے 20 کے مقابلے میں 450,000 کی تربیتی پرپلیکسٹی کوئی معمولی چوک نہیں۔ یہ چار درجوں کا فرق ہے، اور کوئی بھی بیان بازی اسے بدل نہیں سکتی۔
اصل قدر E0–E26 کی تجرباتی سیڑھی ہے، جس کی ناکامیاں حاشیوں میں درج ہیں: کون سے ساختی خیال ڈھے گئے، کیسے، اور تشخیص نے کیا کہا۔ جس منفی نتیجے کی وجہ لکھی ہو، وہ ایک شراکت ہے۔ جو منفی نتیجہ چپکے سے مٹا دیا جائے، وہ کام کا ضیاع ہے۔
یہ کیا ہے، ایک منٹ میں
زبان سنبھالنے والی تقریباً ہر AI ایک ہی خیال پر بنی ہے: ہر لفظ کو ہر دوسرے لفظ کی طرف دیکھنے دو۔ یہ کام کرتا ہے۔ کوئی نہیں جانتا کہ اس میں کتنا اس لیے ہے کہ یہ دستیاب بہترین خیال ہے، اور کتنا اس لیے کہ یہی وہ خیال ہے جسے سب نے آزمایا۔
Cell AI اسے نکال کر اس کی جگہ کچھ اور رکھتا ہے: ایک سطح پر پھیلتے اور ردِعمل کرتے دو کیمیائی مادے، جیسے کسی جانور پر دھاریاں بنتی ہیں، اور جہاں جوڑ پڑھنے کے بعد نہیں بلکہ پڑھتے پڑھتے بدلتے ہیں۔ پھر اسے پورے حجم پر تربیت دی گئی اور ناپا گیا۔ نتیجہ GPT-2 سے چار درجے خراب نکلا۔ یہی اس صفحے کی سرخی ہے، کسی ضمیمے کی ایک سطر نہیں۔
وہ محققین جو جاننا چاہتے ہیں کہ جس راستے پر کوئی نہیں گیا اس پر ہوتا کیا ہے۔ وہ سائنس دان جو پہلے ہی جاندار نظاموں کی ماڈلنگ کرتے ہیں، کیونکہ نیچے کا طریقۂ کار وہی ہے جو کیمیا میں نمونے اور جانوروں پر نشان بناتا ہے۔ اور اساتذہ، کیونکہ شائع ہونے والی تحقیق تقریباً ساری کامیابیاں ہوتی ہیں، اور ناکامی کا محتاط بیان کم یاب بھی ہے اور زیادہ کارآمد بھی۔
ڈھانچے کے نیچے کی حرکیات
یہ ایک Gray–Scott عمل و انتشار کا نظام ہے — اسی قسم کی حرکیات جن پر CellularPDE کا مرکز بنا ہے۔ دو کیمیائی مادے مختلف رفتار سے پھیلتے ہیں اور آپس میں عمل کرتے ہیں؛ خوراک اور ہلاکت کی شرحیں طے کرتی ہیں کہ آپ کو دھبے ملیں گے، دھاریاں، تقسیم ہوتے خلیے، یا کچھ بھی نہیں۔ ڈھانچے کی بازی یہ ہے کہ اس قسم کا خود ترتیب پانے والا میدان حساب اٹھا سکتا ہے۔ اسے دیکھیے اور اس کے قابلِ یقین ہونے کا فیصلہ خود کیجیے۔
CellularPDE — عمل و انتشار کا مرکز
کیمیائی مادہ B ڈالنے اور نمونہ بگاڑنے کے لیے میدان پر کلک کریں یا گھسیٹیں۔
تقسیم کی حالت
میدان کی N = 4 تقسیمیں، جیسے CellularPDE کے مرکز میں ہیں۔ اونچائی ہر تقسیم کی اوسط فعالیت ہے؛ رساؤ λ = 0.01 انہیں آپس میں جوڑتا ہے۔
Gray–Scott، جس میں Da=1.0, Db=0.5، نو نکاتی Laplacian، صریح Euler۔ یہ حرکیاتی بنیاد ہے، تربیت یافتہ ماڈل نہیں — تربیت یافتہ ماڈل 12.58 کروڑ پیرامیٹر کا ہے اور کسی براؤزر ٹیب میں نہیں سماتا۔
CellularPDE بنا ہے۔ خود ڈھانچہ PyTorch میں ہے۔
توجہ کی جگہ کیا آتا ہے
CellularPDE
D = 256 جہتی حالت کی N = 4 تقسیمیں، رساؤ λ = 0.01، sigmoid عمل کی اصطلاحیں — ایک منقطع عمل و انتشار کا نظام، جو وہاں کھڑا ہے جہاں خود توجہ ہوتی۔
MetaplasticityLayer
Bienenstock–Cooper–Munro (BCM) طرز کی ہیبی تعلیم، جہاں α = 0.1، β = 0.01، اور یہ آگے کے گزر کے دوران لگایا جاتا ہے، اس کے بعد نہیں۔ یہ اس ڈھانچے کا سب سے جرات مندانہ خیال ہے اور اس کی دستاویزی گریڈیئنٹ فاقہ کشی کے مسئلے کی جڑ بھی۔
SpectralPDE اور SparseHebbian
SpectralPDE پیچیدگی O(D²) سے گھٹا کر O(D log D) کر دیتا ہے۔ SparseHebbian تبدیلیوں کو 65,536 وزنوں سے دبا کر 1,024 پر لے آتا ہے۔ MultiScalePartitions تیز اور سست دھارے چلاتے ہیں؛ AnnealedRouter، Gumbel-Softmax شیڈولنگ استعمال کرتا ہے۔
پورا ڈھیر
cl100k_base ایمبیڈنگ → CellularPDE → MetaplasticityLayer → MemoryFormation → ResonanceSystem → CrystalLattice (K = 3) → اختیاری Kuramoto جوڑ → MultiModalModel روٹنگ → logits۔ گونج کا مرحلہ FFT کے ذریعے فیزوں کو جوڑتا ہے۔
E0 سے E26، ناکامیاں حاشیوں کے ساتھ
ڈھانچے کی تلاش کا پروگرام ہی یہاں اصل چیز ہے۔ ستائیس تجربے، ہر ایک کے ساتھ یہ کہ کیا آزمایا گیا اور کیا غلط ہوا، بشمول ان کے جو پیچھے لے گئے۔
| دریافت | نتیجہ |
|---|---|
| PerFreqResonance | مسائل درج ہوئے، نتیجہ نہیں دیا |
| راستہ سازی | کچھ ترتیبوں میں گر کر طبقاتی انحطاط پر آ گئی |
| E26 بمقابلہ E25 | تنزلی — بعد والا تجربہ زیادہ خراب رہا |
| ResonanceSystem | گریڈیئنٹ میں برائے نام حصہ |
| تخلیق (v1) | مناسب خود ارتباطی نمونہ گیری نہیں رکھتا |
| v3 Cell-Fungal Harmonic | قیاسی، غیر مربوط |
فرق، سیدھے لفظوں میں
AI کو بالکل مختلف طریقے سے بنانے کا ایک تجربہ
آج کی تقریباً ہر AI ایک ہی بنیادی خیال پر کھڑی ہے۔ Cell AI ایک مختلف خیال پر پورے پیمانے کی کوشش ہے، جو اس بات سے لیا گیا ہے کہ قدرت میں نمونے کیسے بنتے ہیں — اور اپنی ناکامیوں سمیت شائع کیا گیا ہے۔
وہ محققین جو موجودہ طریقے سے آگے دیکھ رہے ہیں
پیش رفت کے لیے کسی کو وہ راستہ آزمانا پڑتا ہے جو کسی نے نہیں لیا، اور پھر لکھنا پڑتا ہے کہ کیا ہوا۔ یہ وہی کوشش ہے، پورے حجم میں، جس میں بند گلیاں چپکے سے چھوڑنے کے بجائے درج کی گئی ہیں۔
زندہ نظاموں کے ماڈل بنانے والے سائنس دان
نیچے جو طریقۂ کار ہے وہی جانوروں پر دھاریاں اور کیمیا میں نمونے پیدا کرتا ہے۔ اگر آپ کی دنیا یہی ہے، تو یہ ماڈل آپ کی زبان بولتا ہے۔
وہ اساتذہ جنہیں ایک ایمان دار ناکامی چاہیے
شائع شدہ تحقیق زیادہ تر ان چیزوں کے بارے میں ہوتی ہے جو کامیاب رہیں۔ یہ اس چیز کا محتاط احوال ہے جو کامیاب نہیں ہوئی، اور سیکھنے کے لیے یہ ایک اور کامیابی کی کہانی سے کہیں زیادہ کام کی ہے۔
یہ خیال اس کے بجائے کہاں گئے
Cell AI وہ تحقیقی سلسلہ ہے جو ایک نقطے پر نہیں آیا۔ اس کے بہن بھائیوں نے بہتر کیا: Cypha ایک چلتا ہوا بنیادی اصولوں والا ڈھانچہ بن گیا، اور طویل سیاق کی یادداشت کا کام Unified Hash-Predictive Memory (UHPM) بنا۔