സ്വന്തം കംപ്യൂട്ടറിൽ പ്രവർത്തിപ്പിക്കാം, AI ചെലവ് കുറയും; ഏറെ വ്യത്യസ്തമാണ് മ്യൂസ് ഗ്ലിമ്മർ

മുംബൈ: നിർമിതബുദ്ധി (എ.ഐ.) മോഡലുകളുടെ കൂട്ടത്തിലേക്ക് മെറ്റയുടെ സൂപ്പർ ഇന്റലിജൻസ് ലാബിൽനിന്ന് പുതിയൊരു അവതാരംകൂടി. ഓഗസ്റ്റിൽ പുറത്തിറക്കിയ മ്യൂസ് ഗ്ലിമ്മർ. ഏജന്റിക് ടാസ്‌കുകൾക്കായി പ്രത്യേകം രൂപകല്പനചെയ്തിട്ടുള്ള ഇത് ഓപ്പൺ വെയ്റ്റ് മോഡലാണ്.

ഒരു സാധാരണ കംപ്യൂട്ടറിലെ ഒറ്റ ഗ്രാഫിക്‌സ് പ്രോസസിങ് യൂണിറ്റിൽ പ്രവർത്തിപ്പിക്കാനാകുമെന്നതാണ് ഇതിന്റെ ഏറ്റവും വലിയ പ്രത്യേകത. നിലവിലുള്ള എ.ഐ. മോഡലുകൾ ക്ലൗഡ് സെർവറുകൾ വഴിയാണ് പ്രവർത്തിക്കുന്നതെങ്കിൽ മെറ്റ മ്യൂസ് ഗ്ലിമ്മറിന് കംപ്യൂട്ടറിൽത്തന്നെ പ്രവർത്തിക്കാനാകുമെന്നർഥം. 24 മുതൽ 32 ജി.ബി. മെമ്മറി ഇതിനുമതിയാകും.

ശേഷി: 3000 കോടി പരാമീറ്ററുകളാണ് മ്യൂസ് ഗ്ലിമ്മറിനുള്ളത്. ക്ലൗഡ് മോഡൽ പരിശീലനസമയത്ത് പഠിച്ചെടുക്കുന്ന ഓരോ ഘടകങ്ങളാണ് പരാമീറ്ററുകൾ. ഇതുപയോഗിച്ചാണ് ഇവ ചിന്തിക്കുന്നതും നമ്മൾ കൊടുക്കുന്ന ടാസ്‌കുകൾ ചെയ്‌തെടുക്കുന്നതും. സാധാരണ ചാറ്റിങ്ങിനുള്ള മോഡലല്ല ഇത്. അതിനപ്പുറം ടൂളുകൾ ഉപയോഗിക്കാനും കോഡിങ്ങിനും സമയമെടുത്തുള്ള ടാസ്‌കുകൾ പൂർത്തിയാക്കുന്നതിനുമാണ് ഇതിനെ പരിശീലിപ്പിച്ചിരിക്കുന്നത്.

ലൈസൻസ്: അപാഷെ 2.0. ഡിവലപ്പർമാർക്ക് ഇത് ഡൗൺലോഡ് ചെയ്യാനും പ്രവർത്തിപ്പിക്കാനും മാറ്റങ്ങൾ വരുത്താനും ആപ്ലിക്കേഷനുകൾ തയ്യാറാക്കാനും കഴിയും. ഈ ലൈസൻസ് വാണിജ്യാവശ്യങ്ങൾക്കും ഉപയോഗിക്കാം.

പ്രത്യേകതകൾ

സാധാരണ എ.ഐ. മോഡലുകൾക്ക് കാര്യങ്ങൾ വിശകലനംചെയ്യുന്നതിന് ഉയർന്ന മെമ്മറിയും ഊർജവും ആവശ്യമുണ്ട്. അതുകൊണ്ടുതന്നെ വലിയ ക്ലൗഡ് ഡേറ്റ സെന്ററുകൾ കേന്ദ്രീകരിച്ചാണ് പ്രവർത്തിക്കുക. 3000 കോടി പരാമീറ്ററുകളുള്ള മ്യൂസ് ഗ്ലിമ്മർ പൂർണാർഥത്തിൽ പ്രവർത്തിക്കണമെങ്കിൽ 55 ജി.ബി.യിലധികം മെമ്മറിയുണ്ടാകണം. എന്നാൽ, മ്യൂസ് ഗ്ലിമ്മേഴ്‌സ് ക്വാണ്ടൈസേഷൻ വഴി 4-ബിറ്റ് പ്രെസിഷൻ സാധ്യമാക്കിയതിലൂടെ 20 ജി.ബി.യിൽ താഴെ മെമ്മറിയിൽ പ്രവർത്തിക്കും. അങ്ങനെയാണ് 24 ജി.ബി. അല്ലെങ്കിൽ 32 ജി.ബി. മെമ്മറി ശേഷിയുള്ള കംപ്യൂട്ടറുകളിൽ സ്വതന്ത്രമായി പ്രവർത്തിക്കാൻ കഴിയുന്നത്.

ആപ്പിളിന്റെ എം4 മാക്‌സ്, എം 5 മാക്‌സ്, എൻവിഡിയ ആർ.ടി.എക്‌സ് 5090 എന്നിവയിൽ മെറ്റ ഇത് പരീക്ഷിച്ചിട്ടുണ്ട്. ഡിവലപ്പർമാർക്ക് അവരുടെ ഡേറ്റ പുറത്തുള്ള ക്ലൗഡ് സെർവറുകളിൽ അയക്കാതെതന്നെ ഈ മോഡൽ സ്വന്തം കംപ്യൂട്ടറിൽ പ്രവർത്തിപ്പിക്കാനാകുമെന്നതാണ് ഇതിന്റെ നേട്ടം. നല്ല ഇന്റർനെറ്റ് കണക്ഷൻപോലും ഇതിനു വേണ്ടിവരില്ല.

ഓപ്പൺ വെയിറ്റ് മോഡൽ

എ.ഐ. മോഡലിനെ പരിശീലിപ്പിക്കാൻ ഉപയോഗിച്ച പരാമീറ്ററുകൾ പൊതുജനത്തിന് ഡൗൺലോഡ് ചെയ്യാൻ ലഭ്യമാക്കുന്ന രീതിയാണിത്. പൂർണമായ ഓപ്പൺ സോഴ്‌സിൽനിന്ന് വ്യത്യസ്തമായി പരിശീലനവിവരങ്ങളും കോഡുകളും ലഭ്യമാകണമെന്നില്ല.

നേട്ടങ്ങൾ

പ്രാദേശികമായി ഓഫ് ലൈൻ മോഡിൽ സ്വന്തം കംപ്യൂട്ടറിൽ പ്രവർത്തിപ്പിക്കാം. ക്ലൗഡ് സെർവർ ആവശ്യമില്ല. ചെലവുകുറയും. സ്വകാര്യത സൂക്ഷിക്കാം. സ്വന്തം ആവശ്യങ്ങൾക്കനുസരിച്ച് മാറ്റങ്ങൾ വരുത്താം. മോഡലിന്റെ പ്രവർത്തനം സൂക്ഷ്മമായി പരിശോധിക്കാം.

Content Highlights: Muse Glimmer is an open-weight AI model from Meta designed for agentic and coding tasks., Can run locally on a standard computer with 24GB to 32GB RAM using 4-bit precision quantization., Operates offline without requiring cloud servers, ensuring high data privacy and cost efficiency., Features 30 billion parameters and is released under the Apache 2.0 license for commercial use.