ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯು ನಮ್ಮ ಜಗತ್ತನ್ನು ಪರಿವರ್ತಿಸುವುದನ್ನು ಮುಂದುವರೆಸಿದೆ ಮತ್ತು ಸುಧಾರಿತ ಭಾಷಾ ಮಾದರಿಗಳೊಂದಿಗೆ ಕೆಲಸ ಮಾಡುವ ಆಯ್ಕೆಗಳು ಚಿಮ್ಮಿ ರಭಸದಿಂದ ಬೆಳೆಯುತ್ತಿವೆ. ಆದಾಗ್ಯೂ, ಪ್ರತಿಯೊಬ್ಬರೂ ಕ್ಲೌಡ್ ಸೇವೆಗಳಿಗೆ ಸಂಪರ್ಕ ಹೊಂದುವ ಅಗತ್ಯವಿಲ್ಲ ಅಥವಾ ಈ ತಂತ್ರಜ್ಞಾನಗಳನ್ನು ಅನ್ವೇಷಿಸಲು ಮೂರನೇ ವ್ಯಕ್ತಿಗಳನ್ನು ಅವಲಂಬಿಸಬೇಕಾಗಿಲ್ಲ. ಆಸಕ್ತಿದಾಯಕ ಮತ್ತು ಪ್ರವೇಶಿಸಬಹುದಾದ ಪರ್ಯಾಯವಾಗಿದೆ ಡೀಪ್ಸೀಕ್-ಆರ್1, ಸಾಧಾರಣ ಕಂಪ್ಯೂಟರ್ಗಳಲ್ಲಿ ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸಲು ಬಳಕೆದಾರರಿಗೆ ಅನುಮತಿಸುವ AI ಮಾದರಿ. ಈ ಲೇಖನದಲ್ಲಿ, DeepSeek ಅನ್ನು ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು ಮತ್ತು ಅದರ ಸಾಮರ್ಥ್ಯಗಳ ಸಂಪೂರ್ಣ ಪ್ರಯೋಜನವನ್ನು ಹೇಗೆ ಪಡೆಯುವುದು ಎಂದು ನಾನು ವಿವರಿಸುತ್ತೇನೆ.
ಡೀಪ್ಸೀಕ್-ಆರ್1 ಎ ತೆರೆದ ಮೂಲ AI ಮಾದರಿ ಇದು ಅದರ ದಕ್ಷತೆ ಮತ್ತು ಸುಧಾರಿತ ತಾರ್ಕಿಕ ಸಾಮರ್ಥ್ಯಕ್ಕಾಗಿ ಎದ್ದು ಕಾಣುತ್ತದೆ. ಇದನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಚಲಾಯಿಸುವ ಮೂಲಕ, ನೀವು ಮರುಕಳಿಸುವ ವೆಚ್ಚಗಳನ್ನು ಮಾತ್ರ ಉಳಿಸುವುದಿಲ್ಲ, ಆದರೆ ನೀವು ನಿಮ್ಮ ಗೌಪ್ಯತೆಯನ್ನು ರಕ್ಷಿಸುತ್ತೀರಿ ಮತ್ತು ಅದನ್ನು ಕಸ್ಟಮ್ ಯೋಜನೆಗಳಿಗೆ ಸಂಯೋಜಿಸಲು ನಮ್ಯತೆಯನ್ನು ಪಡೆಯುತ್ತೀರಿ. ಕೆಲವು ಮಾದರಿಗಳಿಗೆ ಶಕ್ತಿಯುತ ಯಂತ್ರಾಂಶದ ಅಗತ್ಯವಿದ್ದರೂ, DeepSeek-R1 ಮೂಲ ಕಂಪ್ಯೂಟರ್ಗಳಿಂದ ಸುಧಾರಿತ ವರ್ಕ್ಸ್ಟೇಷನ್ಗಳವರೆಗೆ ವಿಭಿನ್ನ ಸಂಪನ್ಮೂಲಗಳಿಗಾಗಿ ಟ್ಯೂನ್ ಮಾಡಿದ ಆವೃತ್ತಿಗಳನ್ನು ನೀಡುತ್ತದೆ.
DeepSeek ಎಂದರೇನು ಮತ್ತು ಅದನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಏಕೆ ಬಳಸಬೇಕು?
ಡೀಪ್ಸೀಕ್-ಆರ್1 ಎ ತಾರ್ಕಿಕ ತಾರ್ಕಿಕತೆಯಂತಹ ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳಿಗಾಗಿ ವಿನ್ಯಾಸಗೊಳಿಸಲಾದ ಸುಧಾರಿತ ಭಾಷಾ ಮಾದರಿ, ಗಣಿತದ ಸಮಸ್ಯೆಗಳನ್ನು ಪರಿಹರಿಸುವುದು ಮತ್ತು ಕೋಡ್ ಅನ್ನು ರಚಿಸುವುದು. ಇದರ ಮುಖ್ಯ ಪ್ರಯೋಜನವೆಂದರೆ ಅದು ತೆರೆದ ಮೂಲವಾಗಿದೆ, ಅಂದರೆ ಬಾಹ್ಯ ಸರ್ವರ್ಗಳನ್ನು ಅವಲಂಬಿಸದೆ ನಿಮ್ಮ ಸ್ವಂತ ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ ನೀವು ಅದನ್ನು ಸ್ಥಾಪಿಸಬಹುದು ಮತ್ತು ಚಲಾಯಿಸಬಹುದು.
ಅದರ ಕೆಲವು ಗಮನಾರ್ಹ ವೈಶಿಷ್ಟ್ಯಗಳು ಸೇರಿವೆ:
- ಹೊಂದಿಕೊಳ್ಳುವಿಕೆ: ಬೆಳಕಿನ ಆವೃತ್ತಿಗಳಿಂದ ಸುಧಾರಿತ ಕಾನ್ಫಿಗರೇಶನ್ಗಳವರೆಗೆ ನಿಮ್ಮ ಅಗತ್ಯಗಳಿಗೆ ಅನುಗುಣವಾಗಿ ನೀವು ಮಾದರಿಯನ್ನು ಅಳವಡಿಸಿಕೊಳ್ಳಬಹುದು.
- ಗೌಪ್ಯತೆ: ಎಲ್ಲಾ ಸಂಸ್ಕರಣೆಯನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಮಾಡಲಾಗುತ್ತದೆ, ಸೂಕ್ಷ್ಮ ಡೇಟಾ ಮಾನ್ಯತೆ ಬಗ್ಗೆ ಕಾಳಜಿಯನ್ನು ತಪ್ಪಿಸುತ್ತದೆ. ಇದು ಬಹುಶಃ ಪ್ರಮುಖ ಅಂಶವಾಗಿದೆ, ಏಕೆಂದರೆ ನಮ್ಮ ಡೇಟಾದೊಂದಿಗೆ ಕಂಪನಿಗಳು ಏನು ಮಾಡಬಹುದು ಎಂಬುದರ ಕುರಿತು ಹಲವರು ಕಾಳಜಿ ವಹಿಸುತ್ತಾರೆ.
- ಉಳಿಸಲಾಗುತ್ತಿದೆ: ನೀವು ಚಂದಾದಾರಿಕೆಗಳು ಅಥವಾ ಕ್ಲೌಡ್ ಸೇವೆಗಳಲ್ಲಿ ಹಣವನ್ನು ಶೆಲ್ ಮಾಡಬೇಕಾಗಿಲ್ಲ, ಇದು ಡೆವಲಪರ್ಗಳು ಮತ್ತು ವ್ಯವಹಾರಗಳಿಗೆ ಕೈಗೆಟುಕುವ ಆಯ್ಕೆಯಾಗಿದೆ.
ಅನುಸ್ಥಾಪನೆಗೆ ಅಗತ್ಯತೆಗಳು
ಅನುಸ್ಥಾಪನೆಯನ್ನು ಪ್ರಾರಂಭಿಸುವ ಮೊದಲು, ನೀವು ಈ ಕೆಳಗಿನವುಗಳನ್ನು ಅನುಸರಿಸುತ್ತೀರಿ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ ಅವಶ್ಯಕತೆಗಳು:
- Linux, macOS ಅಥವಾ Windows ಆಪರೇಟಿಂಗ್ ಸಿಸ್ಟಮ್ ಹೊಂದಿರುವ ಕಂಪ್ಯೂಟರ್ (ನಂತರದ ಸಂದರ್ಭದಲ್ಲಿ WSL2 ಗೆ ಬೆಂಬಲದೊಂದಿಗೆ).
- ಕನಿಷ್ಠ RAM ನ 8 GB, ಇದು ಕನಿಷ್ಠ ಶಿಫಾರಸು ಆದರೂ 16 ಜಿಬಿ ಅತ್ಯುತ್ತಮ ಕಾರ್ಯಕ್ಷಮತೆಗಾಗಿ.
- ಆರಂಭದಲ್ಲಿ ಮಾದರಿಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಲು ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶ.
- ಟರ್ಮಿನಲ್ ಅಥವಾ ಆಜ್ಞಾ ಸಾಲಿನ ಮೂಲಭೂತ ಜ್ಞಾನ.
ಸಹ, ಎಂಬ ಉಪಕರಣವನ್ನು ನೀವು ಸ್ಥಾಪಿಸಬೇಕಾಗುತ್ತದೆ ಒಲ್ಲಮ, ಇದು ಸ್ಥಳೀಯವಾಗಿ DeepSeek ಮಾದರಿಗಳನ್ನು ನಿರ್ವಹಿಸುತ್ತದೆ ಮತ್ತು ನಡೆಸುತ್ತದೆ.
ಒಲ್ಲಮಾ ಸ್ಥಾಪನೆ
ಒಲ್ಲಮ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಲು ಮತ್ತು ಚಲಾಯಿಸಲು ನಿಮಗೆ ಅನುಮತಿಸುವ ಸರಳ ಪರಿಹಾರವಾಗಿದೆ ಡೀಪ್ಸೀಕ್-ಆರ್1. ಇದನ್ನು ಸ್ಥಾಪಿಸಲು, ಈ ಹಂತಗಳನ್ನು ಅನುಸರಿಸಿ:
- Linux ಅಥವಾ macOS ನಲ್ಲಿ, ಟರ್ಮಿನಲ್ ಅನ್ನು ತೆರೆಯಿರಿ ಮತ್ತು Ollama - ಪ್ಯಾಕೇಜ್ ಅನ್ನು ಸ್ಥಾಪಿಸಲು ಕೆಳಗಿನ ಆಜ್ಞೆಯನ್ನು ಚಲಾಯಿಸಿ ಕರ್ಲ್ ಇದು ಅವಶ್ಯಕ, ನಿಸ್ಸಂಶಯವಾಗಿ -:
curl -fsSL https://ollama.com/install.sh | ಶೇ
- ವಿಂಡೋಸ್ ಸಿಸ್ಟಮ್ಗಳಲ್ಲಿ, ನೀವು WSL2 ಅನ್ನು ಮೊದಲೇ ಸಕ್ರಿಯಗೊಳಿಸಿದ್ದೀರಿ ಎಂದು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಿ ಮತ್ತು ನಂತರ ನೀವು WSL ನಲ್ಲಿ ಕಾನ್ಫಿಗರ್ ಮಾಡುವ ಉಬುಂಟು ಟರ್ಮಿನಲ್ನಲ್ಲಿ ಅದೇ ಹಂತಗಳನ್ನು ಅನುಸರಿಸಿ.
- ಓಡುವ ಮೂಲಕ ಒಲ್ಲಮಾವನ್ನು ಸರಿಯಾಗಿ ಸ್ಥಾಪಿಸಲಾಗಿದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸಿ
ollama --version
. ಆಜ್ಞೆಯು ಆವೃತ್ತಿ ಸಂಖ್ಯೆಯನ್ನು ಹಿಂತಿರುಗಿಸಿದರೆ, ನೀವು ಮುಂದುವರಿಯಲು ಸಿದ್ಧರಾಗಿರುವಿರಿ.
DeepSeek-R1 ಡೌನ್ಲೋಡ್
ಒಲ್ಲಮಾ ಸ್ಥಾಪಿಸಿದ ಮತ್ತು ಚಾಲನೆಯಲ್ಲಿರುವ (ollama serve
ಟರ್ಮಿನಲ್ನಲ್ಲಿ ನಾವು ನಂತರ ವಿವರಿಸುವ ಡೌನ್ಲೋಡ್ ವಿಫಲವಾದರೆ), ಈಗ ನೀವು ನಿಮ್ಮ ಅಗತ್ಯತೆಗಳು ಮತ್ತು ಹಾರ್ಡ್ವೇರ್ಗೆ ಸೂಕ್ತವಾದ ಡೀಪ್ಸೀಕ್ ಮಾದರಿಯನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಬಹುದು:
- 1.5B ನಿಯತಾಂಕಗಳು: ಮೂಲ ಕಂಪ್ಯೂಟರ್ಗಳಿಗೆ ಸೂಕ್ತವಾಗಿದೆ. ಈ ಮಾದರಿಯು ಸರಿಸುಮಾರು ಆಕ್ರಮಿಸುತ್ತದೆ 1.1 ಜಿಬಿ.
- 7B ನಿಯತಾಂಕಗಳು: ಜೊತೆಗೆ ಉಪಕರಣಗಳಿಗೆ ಶಿಫಾರಸು ಮಾಡಲಾಗಿದೆ GPU ಗಳು ಮಧ್ಯಮ-ಎತ್ತರದ. ಇದು ಸುಮಾರು ಆಕ್ರಮಿಸುತ್ತದೆ 4.7 ಜಿಬಿ.
- 70B ನಿಯತಾಂಕಗಳು: ಇದರೊಂದಿಗೆ ಸಲಕರಣೆಗಳ ಸಂಕೀರ್ಣ ಕಾರ್ಯಗಳಿಗಾಗಿ ಉತ್ತಮ ಸಾಮರ್ಥ್ಯ ಮೆಮೊರಿ ಮತ್ತು ಶಕ್ತಿಯುತ GPU.
ಪ್ರಮಾಣಿತ 7B ಮಾದರಿಯನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಲು, ಟರ್ಮಿನಲ್ನಲ್ಲಿ ಈ ಆಜ್ಞೆಯನ್ನು ಚಲಾಯಿಸಿ:
ಒಲಮಾ ರನ್ ಡೀಪ್ಸೀಕ್-ಆರ್1
ಡೌನ್ಲೋಡ್ ಸಮಯವು ನಿಮ್ಮ ಇಂಟರ್ನೆಟ್ ವೇಗವನ್ನು ಅವಲಂಬಿಸಿರುತ್ತದೆ ಮತ್ತು ನಾವು ಮೊದಲ ಬಾರಿ ಚಾಟ್ಬಾಟ್ ಅನ್ನು ರನ್ ಮಾಡಿದಾಗ ಮಾತ್ರ ಇದು ಅಗತ್ಯವಾಗಿರುತ್ತದೆ. ಪೂರ್ಣಗೊಂಡ ನಂತರ, ಮಾದರಿಯು ಆಜ್ಞಾ ಸಾಲಿನಿಂದ ಅಥವಾ ಚಿತ್ರಾತ್ಮಕ ಇಂಟರ್ಫೇಸ್ ಮೂಲಕ ಬಳಸಲು ಸಿದ್ಧವಾಗುತ್ತದೆ.
ಗ್ರಾಫಿಕಲ್ ಇಂಟರ್ಫೇಸ್ನೊಂದಿಗೆ ಡೀಪ್ಸೀಕ್ ಅನ್ನು ಬಳಸುವುದು
ನೀವು ಟರ್ಮಿನಲ್ನಿಂದ ನೇರವಾಗಿ ಡೀಪ್ಸೀಕ್ನೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಬಹುದಾದರೂ, ಅನೇಕ ಬಳಕೆದಾರರು ಅನುಕೂಲಕ್ಕಾಗಿ ಚಿತ್ರಾತ್ಮಕ ಇಂಟರ್ಫೇಸ್ ಅನ್ನು ಬಯಸುತ್ತಾರೆ. ಈ ಸಂದರ್ಭದಲ್ಲಿ, ನೀವು ಸ್ಥಾಪಿಸಬಹುದು ChatBoxAI, ಡೀಪ್ಸೀಕ್ನ ಲಾಭವನ್ನು ಪಡೆಯಲು ನಿಮಗೆ ಅನುಮತಿಸುವ ಉಚಿತ ಅಪ್ಲಿಕೇಶನ್ ದೃಶ್ಯ ರೂಪ.
- ಡೌನ್ಲೋಡ್ ಮಾಡಿ ಮತ್ತು ಸ್ಥಾಪಿಸಿ ChatBoxAI ನಿಂದ ಅದರ ಅಧಿಕೃತ ಪುಟ.
- ಬಳಸಲು ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ಹೊಂದಿಸಿ ಒಲ್ಲಮ ಮಾದರಿ ಪೂರೈಕೆದಾರರಾಗಿ:
ChatBoxAI ಸೆಟ್ಟಿಂಗ್ಗಳಲ್ಲಿ, "ನನ್ನ ಸ್ವಂತ API ಬಳಸಿ" ಆಯ್ಕೆಮಾಡಿ ಮತ್ತು ನೀವು ಹಿಂದೆ ಡೌನ್ಲೋಡ್ ಮಾಡಿದ DeepSeek ಮಾದರಿಯನ್ನು ಆಯ್ಕೆಮಾಡಿ. ಎಲ್ಲವನ್ನೂ ಸರಿಯಾಗಿ ಕಾನ್ಫಿಗರ್ ಮಾಡಿದ್ದರೆ, ನೀವು ಗ್ರಾಫಿಕಲ್ ಇಂಟರ್ಫೇಸ್ನಿಂದ ನೇರವಾಗಿ ಪ್ರಶ್ನೆಗಳು ಮತ್ತು ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.
ಯೋಜನೆಗಳಲ್ಲಿ ಡೀಪ್ಸೀಕ್ ಏಕೀಕರಣ
ನೀವು ಡೆವಲಪರ್ ಆಗಿದ್ದರೆ, ಅದನ್ನು ಬಳಸಿಕೊಂಡು ನಿಮ್ಮ ಯೋಜನೆಗಳಿಗೆ ಡೀಪ್ಸೀಕ್ ಅನ್ನು ನೀವು ಸಂಯೋಜಿಸಬಹುದು ಎಪಿಐ OpenAI ಹೊಂದಬಲ್ಲ. ಬಳಸುವ ಸರಳ ಉದಾಹರಣೆ ಇಲ್ಲಿದೆ ಪೈಥಾನ್:
ಆಮದು openai ಕ್ಲೈಂಟ್ = openai.Client(base_url="http://localhost:11434/v1", api_key="ollama") response = client.chat.completions.create(model="deepseek-r1", messages=[{ "role": "ಬಳಕೆದಾರ", "ವಿಷಯ": "ಫೈಬೊನಾಕಿಯನ್ನು ಲೆಕ್ಕಾಚಾರ ಮಾಡಲು ಪೈಥಾನ್ನಲ್ಲಿ ಕೋಡ್ ಅನ್ನು ರಚಿಸಿ"}])
ಈ ಸ್ಕ್ರಿಪ್ಟ್ ಸ್ಥಳೀಯ ಡೀಪ್ಸೀಕ್ ಮಾದರಿಗೆ ಪ್ರಶ್ನೆಯನ್ನು ಕಳುಹಿಸುತ್ತದೆ ಮತ್ತು ಫಲಿತಾಂಶವನ್ನು ನಿಮ್ಮ ಟರ್ಮಿನಲ್ ಅಥವಾ ಅಪ್ಲಿಕೇಶನ್ನಲ್ಲಿ ಹಿಂತಿರುಗಿಸುತ್ತದೆ.
DeepSeek-R1 AI ಮಾದರಿಯು ನೋಡುತ್ತಿರುವವರಿಗೆ ಅತ್ಯುತ್ತಮವಾದ ಆಯ್ಕೆಯನ್ನು ಪ್ರತಿನಿಧಿಸುತ್ತದೆ ಸುಧಾರಿತ ಮತ್ತು ಆರ್ಥಿಕ ಪರಿಹಾರ. Ollama ಒದಗಿಸುವ ಪ್ರವೇಶದ ಸುಲಭತೆ, ಅದರ ಮಾದರಿಗಳ ನಮ್ಯತೆ ಮತ್ತು ಕಸ್ಟಮ್ ಯೋಜನೆಗಳಿಗೆ ಸಂಯೋಜಿಸುವ ಸಾಮರ್ಥ್ಯದೊಂದಿಗೆ, DeepSeek ಡೆವಲಪರ್ಗಳು, ವಿದ್ಯಾರ್ಥಿಗಳು ಮತ್ತು AI ತಜ್ಞರಿಗೆ ಹೊಸ ಸಾಧ್ಯತೆಗಳನ್ನು ತೆರೆಯುತ್ತದೆ. ಗೌಪ್ಯತೆ ಮತ್ತು ಕಾರ್ಯಕ್ಷಮತೆಯ ಮೇಲೆ ಕೇಂದ್ರೀಕರಿಸುವ ಮೂಲಕ, ಇದು ಸಂಪೂರ್ಣವಾಗಿ ಅನ್ವೇಷಿಸಲು ಅರ್ಹವಾದ ಸಾಧನವಾಗಿದೆ.