ക്ലോഡ് കോഡിന്റെ വേഗത കൂട്ടി ആന്ത്രോപിക്കിന്റെ ‘മെസ്സേജ് ത്രെഡുകൾ’; പക്ഷേ ടോക്കൺ ബില്ലിൽ കുറവുണ്ടാകില്ല

ദീർഘനേരം നീണ്ടുനിൽക്കുന്ന കോഡിംഗ് സെഷനുകൾ വേഗത്തിലാക്കാൻ ‘മെസ്സേജ് ത്രെഡുകൾ’ (Message Threads) എന്ന പുതിയ ഫീച്ചറുമായി പ്രമുഖ ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് കമ്പനിയായ ആന്ത്രോപിക് (Anthropic). ഓരോ തവണയും മുൻ ചാറ്റ് ഹിസ്റ്ററി മുഴുവനായി എപിഐലേക്ക് അപ്‌ലോഡ് ചെയ്യുന്നതിന് പകരം, സെർവറുകളിൽ താൽക്കാലികമായി നിലനിർത്തിക്കൊണ്ടാണ് ഈ പുതിയ സംവിധാനം പ്രവർത്തിക്കുന്നത്. ആന്ത്രോപിക്കിന്റെ മെസ്സേജസ് എപിഐയിൽ (Messages API) പബ്ലിക് ബീറ്റയായാണ് ഈ ഫീച്ചർ അവതരിപ്പിച്ചിട്ടുള്ളത്.

പ്രവർത്തനം എങ്ങനെ?
സാധാരണ നിലയിൽ, ഓരോ പുതിയ നിർദ്ദേശത്തോടൊപ്പവും മുൻപത്തെ എല്ലാ ചാറ്റുകളും വീണ്ടും അയക്കേണ്ടിയിരുന്നു. ഇത് നെറ്റ്‌വർക്ക് ഡാറ്റയും പ്രോസസ്സിംഗ് സമയവും വർദ്ധിപ്പിച്ചിരുന്നു. എന്നാൽ പുതിയ ത്രെഡ് സംവിധാനത്തിൽ ആദ്യ തവണ മാത്രം മുഴുവൻ വിവരങ്ങളും അയക്കുകയും, തുടർന്നുള്ള റിക്വസ്റ്റുകളിൽ പുതിയ സന്ദേശങ്ങളും മുൻപത്തെ മറുപടിയുടെ റഫറൻസും മാത്രം കൈമാറുകയും ചെയ്താൽ മതിയാകും.

ബില്ലിൽ മാറ്റമില്ല

ഉപയോക്താവ് അയക്കുന്ന ഡാറ്റയുടെ അളവ് ഗണ്യമായി കുറയുമെങ്കിലും, മോഡൽ ഓരോ ഘട്ടത്തിലും മുഴുവൻ കോൺടെക്സ്റ്റും വായിച്ചു തന്നെയാണ് പ്രതികരിക്കുന്നത്. അതിനാൽ ടോക്കൺ ഉപയോഗത്തിലും എപിഐ ചാർജുകളിലും കുറവുണ്ടാകില്ല. എന്നാൽ, ചെലവ് കുറയ്ക്കുന്നതിനായി ഡെവലപ്പർമാർക്ക് ഇത് ക്ലോഡിന്റെ 'പ്രോംപ്റ്റ് കാഷിങ്' സംവിധാനവുമായി ചേർത്ത് ഉപയോഗിക്കാവുന്നതാണ്.

അഞ്ച് മിനിറ്റ് പരിമിതി

ഈ സംവിധാനത്തിന് ഒരു പ്രധാന പരിമിതി കൂടിയുണ്ട്. തുടർച്ചയായി അഞ്ച് മിനിറ്റ് ഉപയോഗിക്കാതിരുന്നാൽ‌ ഒരു ത്രെഡ് കാലഹരണപ്പെടും. എങ്കിലും, ക്ലയന്റ് ചാറ്റ് വിവരങ്ങൾ സൂക്ഷിച്ചിട്ടുണ്ടെങ്കിൽ എസ്.ഡി.കെ (SDK) ഹെൽപ്പർ വഴി തനിയെ പുതിയൊരു ത്രെഡ് ആരംഭിച്ച് തടസ്സമില്ലാതെ സെഷൻ തുടരാൻ സാധിക്കും.

Content Highlights: Anthropic has launched the "Message Threads" feature in its Messages API public beta to significantly speed up lengthy coding sessions by temporarily storing chat history on servers. While this reduces network data uploads, developers can optimize token usage and API charges by combining it with Claude's prompt caching feature.