Ollama

Ollama एक ओपन सोर्स टूल है, जो आपको किसी भी भाषा मॉडल को एक स्थानीय मशीन पर चलाने की सुविधा देता है। यह टूल आपके कंप्यूटर की प्रसंस्करण क्षमता का उपयोग करके उत्तर उत्पन्न करने में सहायक होता है, जिन्हें ऑनलाइन LLM तक पहुँचने की आवश्यकता नहीं होती। सबसे बढ़िया बात यह है कि यह सीमित संसाधनों वाले पीसी पर भी उत्तर प्रदान करता है। हालाँकि, अप्रभावी हार्डवेयर टोकन उत्पन्न करने की गति को काफी कम कर सकता है।

शक्तिशाली भाषा मॉडलों की क्षमता का प्रयोग करें

Ollama को विभिन्न मॉडल्स की स्थापना करना बहुत आसान बनाता है जो अरबों पैरामीटरों से सुसज्जित हैं, जैसे कि Llama 3, Phi 3, Mistral या Gemma, बस उनके संबंधित कमांड दर्ज करके। उदाहरण के लिए, यदि आप मेटा का शक्तिशाली Llama 3 चलाना चाहते हैं, तो कंसोल में ollama run llama3 चलाएँ और स्थापना शुरू करें। ध्यान दें कि, डिफ़ॉल्ट रूप से, Ollama Windows CMD के माध्यम से वार्तालाप उत्पन्न करेगा। इसके अलावा, यह सिफारिश की जाती है कि आप अपने जोड़े गए प्रत्येक LLM के आकार के अनुपात में डबल खाली डिस्क स्थान रखें।

सहज वार्तालाप

जैसे कि उन भाषा मॉडलों के साथ जो आप क्लाउड में चला सकते हैं, Ollama पिछली प्रतिक्रियाओं को संग्रहीत करने की अनुमति देता है जिससे अधिक स्थिरता और संदर्भ मिलता है। नतीजतन, आप एक बहुत ही संरचित बातचीत का निर्माण कर सकते हैं जो सबसे परिष्कृत LLM की पूरी क्षमता को बढ़ा सकती है।

एक वैकल्पिक इंटरफ़ेस इंस्टॉल करें

ollama-webui रिपॉजिटरी के धन्यवाद, आप Ollama की पूरी क्षमता का उपयोग एक अधिक दृष्टिगोचर इंटरफ़ेस के साथ कर सकते हैं, जो ChatGPT के समान है। Docker पर Docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main कमांड को चलाकर, आप एक कंटेनर को लागू कर सकते हैं जो आपको एक अधिक सहज दृश्य डिज़ाइन प्राप्त करने में मदद करेगा।

अपना खुद का LLM बनाएँ

Ollama आपको एक बहुत ही व्यक्तिगत अनुभव के लिए अपना खुद का LLM बनाने की अनुमति भी देता है। अपनी खुद की कॉन्फ़िगरेशन बनाकर, आप अलग-अलग मॉडलों को एक ही समय में जोड़ सकते हैं और उन जवाबों को प्राप्त कर सकते हैं जो प्रत्येक सहायक के संसाधनों को संयोजित करते हैं।

Windows के लिए Ollama डाउनलोड करें और इस शानदार उपकरण की अनंत संभावनाओं का आनंद लें, जो आपको किसी भी LLM का स्थानीय रूप से उपयोग करने की सुविधा प्रदान करता है। इससे आपकी गोपनीयता बढ़ेगी और आपको ऑनलाइन जानकारी साझा करने, जिसमें संभावित जोखिम हो सकते हैं, की आवश्यकता नहीं होगी।