ಕೆಲವು ದಿನಗಳ ಹಿಂದೆ ನನ್ನ ಪಾಲುದಾರ Pablinux ಅವರು ಅವರಿಗೆ ಹೇಳಿದರು ಫ್ಯಾಶನ್ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ಮಾದರಿಯನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು. ಈ ಪೋಸ್ಟ್ನಲ್ಲಿ ನಾನು ನನ್ನ ಅಭಿಪ್ರಾಯದಲ್ಲಿ ಡೀಪ್ಸೀಕ್ಗಿಂತ ಉತ್ತಮ ಮಾದರಿಗಳು ಮತ್ತು ಅವುಗಳನ್ನು ನಮ್ಮ ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ ಹೇಗೆ ಸ್ಥಾಪಿಸಬೇಕು ಮತ್ತು ಚಲಾಯಿಸಬೇಕು ಎಂಬುದನ್ನು ಪಟ್ಟಿ ಮಾಡುತ್ತೇನೆ.
ಯಾವುದೇ ರಾಜಕೀಯ ಸಹಾನುಭೂತಿ ಅಥವಾ ವಿರೋಧಾಭಾಸವನ್ನು ಬಿಟ್ಟು, ಚೀನಾ ಸರ್ಕಾರದ ಈ ಕ್ರಮವು ಸನ್ ತ್ಸುಗೆ ಯೋಗ್ಯವಾದ ರಾಜತಾಂತ್ರಿಕ ವ್ಯಾಪಾರೋದ್ಯಮದ ಮೇರುಕೃತಿಯಾಗಿದೆ. ಡೊನಾಲ್ಡ್ ಟ್ರಂಪ್ ಅವರ "ಎಲಿಫೆಂಟ್ ಇನ್ ದಿ ಗ್ಲಾಸ್ವೇರ್" ಶೈಲಿಗೆ ವ್ಯತಿರಿಕ್ತವಾಗಿ, ಅವರು ಚಾಟ್ಜಿಪಿಟಿಯಂತೆಯೇ ಅದೇ ವೈಶಿಷ್ಟ್ಯಗಳನ್ನು ಉಚಿತವಾಗಿ ನೀಡುವ ಮತ್ತು ಕಡಿಮೆ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಬಳಸುವ ಮಾದರಿಯನ್ನು ಘೋಷಿಸಿದರು. ವಿಷಯ ಅನುಸರಿಸುವವರಿಗೆ ಮಾತ್ರ ಅದು ತಿಳಿದಿದೆ ಅನೇಕ ಇತರ ಓಪನ್ ಸೋರ್ಸ್ ಮಾದರಿಗಳು (ಕೆಲವು ಮೆಟಾದಂತಹ ಉತ್ತರ ಅಮೆರಿಕಾದ ಕಂಪನಿಗಳಿಂದ) ದೀರ್ಘಕಾಲದವರೆಗೆ ಇವೆ ಮತ್ತು DeepSeek ನ ಕಾರ್ಯಕ್ಷಮತೆಯು 5% ಸಾಮಾನ್ಯ ಬಳಕೆಗಳಲ್ಲಿ ChatGPT ಗೆ ಮಾತ್ರ ಹೋಲಿಸಬಹುದಾಗಿದೆ.
ದೊಡ್ಡ ಪ್ರಮಾಣದ ಭಾಷಾ ಮಾದರಿಗಳು
ChatGPT, DeepSeek ಮತ್ತು ಇತರವುಗಳನ್ನು ದೊಡ್ಡ ಪ್ರಮಾಣದ ಭಾಷಾ ಮಾದರಿಗಳು ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ. ಮೂಲಭೂತವಾಗಿ ಅವರು ಇನ್ನೊಬ್ಬ ವ್ಯಕ್ತಿಯೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಲು ಬಳಸುವಂತಹ ಭಾಷೆಯಲ್ಲಿ ಕಂಪ್ಯೂಟರ್ನೊಂದಿಗೆ ಸಂವಹನ ನಡೆಸಲು ಬಳಕೆದಾರರಿಗೆ ಅವಕಾಶ ಮಾಡಿಕೊಡುತ್ತಾರೆ. ಇದನ್ನು ಸಾಧಿಸಲು, ಅವರು ಈಗಾಗಲೇ ಹೊಂದಿರುವ ಹೊಸ ಮಾಹಿತಿಯನ್ನು ಉತ್ಪಾದಿಸಲು ಅನುಮತಿಸುವ ದೊಡ್ಡ ಪ್ರಮಾಣದ ಪಠ್ಯ ಮತ್ತು ನಿಯಮಗಳೊಂದಿಗೆ ತರಬೇತಿ ನೀಡಲಾಗುತ್ತದೆ.
ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವುದು, ಪಠ್ಯಗಳನ್ನು ಸಂಕ್ಷಿಪ್ತಗೊಳಿಸುವುದು, ಅನುವಾದಗಳನ್ನು ಮಾಡುವುದು ಮತ್ತು ವಿಷಯವನ್ನು ಪುನರುತ್ಪಾದಿಸುವುದು ಇದರ ಮುಖ್ಯ ಬಳಕೆಯಾಗಿದೆ.
DeepSeek ಗಿಂತ ಉತ್ತಮ ಮಾದರಿಗಳು ಮತ್ತು ಅವುಗಳನ್ನು ಸ್ಥಳೀಯವಾಗಿ ಹೇಗೆ ಸ್ಥಾಪಿಸುವುದು
Pablinux ನಂತೆ, ನಾವು Ollama ಅನ್ನು ಬಳಸಲಿದ್ದೇವೆ. ಇದು Linux ಟರ್ಮಿನಲ್ನಿಂದ ವಿಭಿನ್ನ ತೆರೆದ ಮೂಲ ಮಾದರಿಗಳನ್ನು ಸ್ಥಾಪಿಸಲು, ಅಸ್ಥಾಪಿಸಲು ಮತ್ತು ಬಳಸಲು ನಮಗೆ ಅನುಮತಿಸುವ ಸಾಧನವಾಗಿದೆ. ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಬ್ರೌಸರ್ ಅನ್ನು ಚಿತ್ರಾತ್ಮಕ ಇಂಟರ್ಫೇಸ್ ಆಗಿ ಬಳಸಬಹುದು, ಆದರೆ ನಾವು ಅದನ್ನು ಈ ಲೇಖನದಲ್ಲಿ ನೋಡುವುದಿಲ್ಲ.
ಒಲ್ಲಮಾಗೆ ಸರಿಯಾದ ಬಳಕೆದಾರ ಅನುಭವವನ್ನು ಒದಗಿಸಲು, ಮೀಸಲಾದ GPU ಹೊಂದಿರುವುದು ಉತ್ತಮ.ವಿಶೇಷವಾಗಿ ಹೆಚ್ಚಿನ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಗಳಲ್ಲಿ. ಆದಾಗ್ಯೂ, ಕಡಿಮೆ ಶಕ್ತಿಯುತವಾದವುಗಳನ್ನು ರಾಸ್ಪ್ಬೆರಿ ಪೈನಲ್ಲಿ ಬಳಸಬಹುದು ಮತ್ತು ನಾನು 7 ಗಿಗಾಬೈಟ್ಗಳೊಂದಿಗೆ ಕಂಪ್ಯೂಟರ್ನಲ್ಲಿ 6 ಬಿಲಿಯನ್ ಪ್ಯಾರಾಮೀಟರ್ಗಳೊಂದಿಗೆ ಮಾದರಿಗಳನ್ನು ಪರೀಕ್ಷಿಸಿದಾಗ ಮತ್ತು ಮೀಸಲಾದ ಜಿಪಿಯು ಇಲ್ಲದೆ, ಕಂಪ್ಯೂಟರ್ ಸಮಸ್ಯೆಗಳಿಲ್ಲದೆ ಕೆಲಸ ಮಾಡಿದೆ. 13 ಬಿಲಿಯನ್ಗಳಲ್ಲಿ ಒಂದರಲ್ಲಿ ಅದೇ ಆಗಲಿಲ್ಲ.
ನಿಯತಾಂಕಗಳು ಸಂಬಂಧಗಳನ್ನು ನಿರ್ಮಿಸಲು ಮತ್ತು ಡೇಟಾದ ನಡುವೆ ಮಾದರಿಗಳನ್ನು ರಚಿಸಲು ಮಾದರಿ ಬಳಸುವ ನಿಯಮಗಳಾಗಿವೆ. ಹೆಚ್ಚು ಪ್ಯಾರಾಮೀಟರ್ಗಳು ಮತ್ತು ಡೇಟಾ, ಕಡಿಮೆ ಪ್ಯಾರಾಮೀಟರ್ಗಳನ್ನು ಹೊಂದಿರುವವರು ಟಾರ್ಜನ್ನಂತಹ ಸ್ಪ್ಯಾನಿಷ್ ಭಾಷೆಯನ್ನು ಮಾತನಾಡುತ್ತಾರೆ.
ನಾವು ಆಜ್ಞೆಗಳೊಂದಿಗೆ ಒಲ್ಲಮಾವನ್ನು ಸ್ಥಾಪಿಸಬಹುದು
sudo apt install curl
curl -fsSL https://ollama.com/install.sh | sh
ನಾವು ಆಜ್ಞೆಯೊಂದಿಗೆ ಮಾದರಿಯನ್ನು ಸ್ಥಾಪಿಸಬಹುದು:
ollama pull nombre_del modelo
ಮತ್ತು ಇದರೊಂದಿಗೆ ರನ್ ಮಾಡಿ:
ollama run nombre_del_modelo
ನಾವು ಇದನ್ನು ಬಳಸಿಕೊಂಡು ಅಸ್ಥಾಪಿಸುತ್ತೇವೆ:
ollama rm nombre_del_modelo
ಬರೆಯುವ ಮೂಲಕ ನಾವು ಸ್ಥಾಪಿಸಲಾದ ಮಾದರಿಗಳನ್ನು ನೋಡಬಹುದು:
ollama list
ನನಗೆ ಹೆಚ್ಚು ಆಸಕ್ತಿಕರವಾಗಿ ತೋರುವ ಮಾದರಿಗಳ ಸಣ್ಣ ಪಟ್ಟಿಯನ್ನು ಅನುಸರಿಸುವುದು: ಲಭ್ಯವಿರುವ ಮಾದರಿಗಳ ಸಂಪೂರ್ಣ ಪಟ್ಟಿಯನ್ನು ನೀವು ಕಾಣಬಹುದು ಇಲ್ಲಿ:
llama2-ಅನ್ಸೆನ್ಸಾರ್
ಲಾಮಾ ಎಂಬುದು ಮೆಟಾದಿಂದ ರಚಿಸಲ್ಪಟ್ಟ ಸಾಮಾನ್ಯ ಉದ್ದೇಶದ ಮಾದರಿಯಾಗಿದೆ. ಈ ಆವೃತ್ತಿಯಲ್ಲಿ ಮೂಲ ಯೋಜನೆಯ ಅಭಿವರ್ಧಕರು ಕಾನೂನು ಅಥವಾ ರಾಜಕೀಯ ಕಾರಣಗಳಿಗಾಗಿ ಪರಿಚಯಿಸಿದ ಎಲ್ಲಾ ನಿರ್ಬಂಧಗಳನ್ನು ತೆಗೆದುಹಾಕಲಾಗಿದೆ.. ಇದು ಎರಡು ಆವೃತ್ತಿಗಳನ್ನು ಹೊಂದಿದೆ, 8GB ಯೊಂದಿಗೆ ನಿರ್ವಹಿಸುವ ಹಗುರವಾದ ಒಂದು ಮತ್ತು 64 ಅಗತ್ಯವಿರುವ ಸಂಪೂರ್ಣವಾದದ್ದು. ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸಲು, ಪಠ್ಯಗಳನ್ನು ಬರೆಯಲು ಅಥವಾ ಕೋಡಿಂಗ್ ಕಾರ್ಯಗಳಲ್ಲಿ ಇದನ್ನು ಬಳಸಬಹುದು
ಇದರೊಂದಿಗೆ ಸ್ಥಾಪಿಸುತ್ತದೆ:
ollama pull llama2-uncensored
ಮತ್ತು ಇದನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸಲಾಗುತ್ತದೆ:
ollama run llama2-uncensored
ಕೋಡ್ಜೆಮ್ಮಾ
CodeGemma ಹಗುರವಾದ ಆದರೆ ಶಕ್ತಿಯುತ ಮಾದರಿಗಳ ಆಯ್ಕೆಯಾಗಿದ್ದು ಅದು ನಿಮಗೆ ವಿವಿಧ ಪ್ರೋಗ್ರಾಮಿಂಗ್ ಕಾರ್ಯಗಳನ್ನು ನಿರ್ವಹಿಸಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ ಕೋಡ್ ಅನ್ನು ಪೂರ್ಣಗೊಳಿಸುವುದು ಅಥವಾ ಅದನ್ನು ಮೊದಲಿನಿಂದ ಬರೆಯುವುದು. ನೈಸರ್ಗಿಕ ಭಾಷೆಯನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಬಹುದು, ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಬಹುದು ಮತ್ತು ಗಣಿತದ ತಾರ್ಕಿಕತೆಯನ್ನು ಮಾಡಬಹುದು.
3 ರೂಪಾಂತರಗಳಲ್ಲಿ ಬರುತ್ತದೆ:
- ಸೂಚನೆ: ನೈಸರ್ಗಿಕ ಭಾಷೆಯನ್ನು ಕೋಡ್ ಆಗಿ ಪರಿವರ್ತಿಸುತ್ತದೆ ಮತ್ತು ಸೂಚನೆಗಳನ್ನು ಅನುಸರಿಸಬಹುದು:
- ಕೋಡ್: ಈಗಾಗಲೇ ಅಸ್ತಿತ್ವದಲ್ಲಿರುವ ಕೋಡ್ನ ಭಾಗಗಳಿಂದ ಕೋಡ್ ಅನ್ನು ಪೂರ್ಣಗೊಳಿಸುತ್ತದೆ ಮತ್ತು ಉತ್ಪಾದಿಸುತ್ತದೆ.
- 2b: ವೇಗವಾಗಿ ಕೋಡ್ ಪೂರ್ಣಗೊಳಿಸುವ ಕಾರ್ಯ.
ಟೈನಿಲ್ಲಾಮಾ
ಅದರ ಹೆಸರೇ ಸೂಚಿಸುವಂತೆ, ಇದು ಮೂಲ ಮೆಟಾ ಮಾದರಿಯ ಚಿಕ್ಕ ಆವೃತ್ತಿಯಾಗಿದೆ.. ಆದ್ದರಿಂದ, ಇದು ಅಂತಹ ಉತ್ತಮ ಫಲಿತಾಂಶಗಳನ್ನು ಹೊಂದಿರುವುದಿಲ್ಲ, ಆದರೆ ಸಾಧಾರಣ ಯಂತ್ರಾಂಶದಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಮಾದರಿಯು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ನೀವು ನೋಡಲು ಬಯಸಿದರೆ, ಪರೀಕ್ಷೆಯನ್ನು ತೆಗೆದುಕೊಳ್ಳುವುದು ಯೋಗ್ಯವಾಗಿದೆ. ಇದು ಕೇವಲ 1100 ಬಿಲಿಯನ್ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿದೆ.
ಸ್ಥಳೀಯವಾಗಿ ಮಾದರಿಗಳನ್ನು ಬಳಸುವುದು ಗೌಪ್ಯತೆಯ ಅನುಕೂಲಗಳನ್ನು ಹೊಂದಿದೆ ಮತ್ತು ಸೆನ್ಸಾರ್ಶಿಪ್ ಅಥವಾ ಪಕ್ಷಪಾತವಿಲ್ಲದೆ ಆವೃತ್ತಿಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ಹೊಂದಿದೆ, ಇದು ಕೆಲವು ಸಂದರ್ಭಗಳಲ್ಲಿ ಹಾಸ್ಯಾಸ್ಪದವಾಗಿದೆ. ಮೈಕ್ರೋಸಾಫ್ಟ್ನ ಆರ್ಟಿಫಿಶಿಯಲ್ ಇಂಟೆಲಿಜೆನ್ಸ್ ನನಗೆ ಡ್ಯಾಶ್ಶಂಡ್ನ ಚಿತ್ರವನ್ನು ರಚಿಸಲು ನಿರಾಕರಿಸಿತು ಏಕೆಂದರೆ ಅದು "ಬಿಚ್" ಪದವನ್ನು ಆಕ್ರಮಣಕಾರಿ ಎಂದು ಪರಿಗಣಿಸಿತು. ದೊಡ್ಡ ನ್ಯೂನತೆಯೆಂದರೆ ಹಾರ್ಡ್ವೇರ್ ಅವಶ್ಯಕತೆಗಳು. ಇದು ಮಾದರಿಗಳನ್ನು ಪ್ರಯತ್ನಿಸುವ ವಿಷಯವಾಗಿದೆ ಮತ್ತು ನಿಮಗೆ ಬೇಕಾದುದನ್ನು ಮತ್ತು ನಿಮ್ಮಲ್ಲಿರುವ ಸಲಕರಣೆಗಳ ಮೇಲೆ ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಸಾಕಷ್ಟು ಉತ್ತಮವಾದದನ್ನು ಕಂಡುಹಿಡಿಯುವುದು.