ChatGPT ಕಾಣಿಸಿಕೊಂಡಾಗಿನಿಂದ, ಬಳಕೆದಾರರ ಗೌಪ್ಯತೆಯ ಗೌರವವು ಸಂಶಯಾಸ್ಪದವಾಗಿರುವ ಬಹಳಷ್ಟು ಪರಿಕರಗಳು ಹೊರಹೊಮ್ಮಿವೆ. ಅದೃಷ್ಟವಶಾತ್, ಇದನ್ನು ನಿವಾರಿಸಲು ಹಲವಾರು ತೆರೆದ ಮೂಲ ಯೋಜನೆಗಳು ಕಾಣಿಸಿಕೊಂಡವು. Ollama AI ಎಂಬುದು ಟರ್ಮಿನಲ್‌ನಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಬಳಸುವ ಒಂದು ಸಾಧನವಾಗಿದೆ
ಅಪ್ಲಿಕೇಶನ್ ತಿನ್ನುವೆ ನಿಮ್ಮ ಹಾರ್ಡ್‌ವೇರ್ ಸಾಕಷ್ಟು ಶಕ್ತಿಯುತವಾಗಿರುವವರೆಗೆ ನಿಮ್ಮ ಕಂಪ್ಯೂಟರ್ ಟರ್ಮಿನಲ್ ಅಥವಾ ಸಿಂಗಲ್ ಬೋರ್ಡ್ ಸಾಧನದಲ್ಲಿ LLM ಗಳ ಪಟ್ಟಿಯನ್ನು ಬಳಸಲು ನಿಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಒಳ್ಳೆಯ ವಿಷಯವೆಂದರೆ ಅವರ ಗ್ರಂಥಾಲಯವು ಎಲ್ಲಾ ಗಾತ್ರಗಳಿಗೆ ಆಯ್ಕೆಗಳನ್ನು ಹೊಂದಿದೆ.
LLM ಗಳು (ದೊಡ್ಡ ಪ್ರಮಾಣದ ಭಾಷಾ ಮಾದರಿಗಳು) ನೈಸರ್ಗಿಕ ಭಾಷೆಗೆ ಹತ್ತಿರವಿರುವ ಮಟ್ಟದಲ್ಲಿ ಭಾಷೆಯನ್ನು ಉತ್ಪಾದಿಸುವ ಮತ್ತು ಅನುವಾದಿಸುವುದನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳಲು ಬಳಸಲಾಗುತ್ತದೆ. ಅವರು ಅಗಾಧ ಪ್ರಮಾಣದ ಪಠ್ಯ ಡೇಟಾದೊಂದಿಗೆ ತರಬೇತಿ ಪಡೆದಿದ್ದಾರೆ. ಪ್ರಶ್ನೆಗಳಿಗೆ ಉತ್ತರಿಸುವುದು, ಪಠ್ಯವನ್ನು ಸಂಕ್ಷಿಪ್ತಗೊಳಿಸುವುದು, ಇತರ ಭಾಷೆಗಳಿಗೆ ಭಾಷಾಂತರಿಸುವುದು, ಸುಸಂಬದ್ಧ ಮತ್ತು ಸೃಜನಾತ್ಮಕ ವಿಷಯವನ್ನು ಉತ್ಪಾದಿಸುವುದು, ವಾಕ್ಯಗಳನ್ನು ಮುಗಿಸುವುದು ಮತ್ತು ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ಕಂಡುಹಿಡಿಯುವುದು ಮುಂತಾದ ವಿವಿಧ ಭಾಷೆ-ಸಂಬಂಧಿತ ಕಾರ್ಯಗಳಿಗಾಗಿ ಈ ಮಾದರಿಗಳನ್ನು ಬಳಸಬಹುದು.
"ದೊಡ್ಡ ಪ್ರಮಾಣದ" ಅಭಿವ್ಯಕ್ತಿ ಅಗಾಧ ಪ್ರಮಾಣದ ಡೇಟಾ (ಬಿಲಿಯನ್‌ಗಳು) ಮತ್ತು ಮಾದರಿಯು ಸಂಬಂಧಗಳನ್ನು ಸ್ಥಾಪಿಸಲು ಮತ್ತು ಡೇಟಾದ ನಡುವೆ ಮಾದರಿಗಳನ್ನು ಕಂಡುಹಿಡಿಯಲು ಬಳಸುವ ನಿಯತಾಂಕಗಳನ್ನು ಸೂಚಿಸುತ್ತದೆ.
ನಿಯತಾಂಕಗಳು ಗಣನೆಗೆ ತೆಗೆದುಕೊಳ್ಳಬೇಕಾದ ಅಂಶವಾಗಿದೆ. ರಾಸ್ಪ್ಬೆರಿ ಪೈ 4 ನಲ್ಲಿ Ollama AI ಅನ್ನು ಬಳಸಿದ್ದಾರೆಂದು ವರದಿ ಮಾಡುವವರು ಇದ್ದರೂ, ನೀವು ಸಾಕಷ್ಟು ಮೆಮೊರಿಯನ್ನು ಹೊಂದಿಲ್ಲದಿದ್ದರೆ ಎಲ್ಲಾ ಮಾದರಿಗಳನ್ನು ಬಳಸಲಾಗುವುದಿಲ್ಲ. ನಾನು 7 GB RAM ನೊಂದಿಗೆ 6 ಶತಕೋಟಿ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಗಳನ್ನು ಬಳಸಿದ್ದೇನೆ ಮತ್ತು ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್ ಇಲ್ಲದೆ ಸಿಸ್ಟಮ್ನ ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಅಷ್ಟೇನೂ ಪರಿಣಾಮ ಬೀರುವುದಿಲ್ಲ, ಆದರೆ ಇದು 13 ರೊಂದಿಗೆ ಒಂದನ್ನು ನಿಭಾಯಿಸಲು ಸಾಧ್ಯವಾಗಲಿಲ್ಲ.
ಕಡಿಮೆ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿಗಳು ಯಾಂಕೀ ಪ್ರವಾಸಿ ಅಣಕು ಮಟ್ಟದಲ್ಲಿ ಸ್ಪ್ಯಾನಿಷ್ ಭಾಷೆಯನ್ನು ಮಾತನಾಡುತ್ತವೆ ಮತ್ತು ಅವರ ಪ್ರತಿಕ್ರಿಯೆಗಳಲ್ಲಿ ಹೆಚ್ಚು ನಿಖರವಾಗಿರುವುದಿಲ್ಲ, ಆದ್ದರಿಂದ ಅವುಗಳನ್ನು ಬಳಸುವಾಗ ನೀವು ಜಾಗರೂಕರಾಗಿರಬೇಕು.
Ollama AI: ಟರ್ಮಿನಲ್‌ನಲ್ಲಿ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯನ್ನು ಬಳಸಿ
ಮುಂದುವರಿಯುವ ಮೊದಲು, ಸಂಕ್ಷಿಪ್ತ ವಿವರಣೆಯೊಂದಿಗೆ ಪ್ರಾರಂಭಿಸೋಣ. ಲಾಮಾ ಎನ್ನುವುದು ಯಂತ್ರ ಕಲಿಕೆಯ ಅಲ್ಗಾರಿದಮ್ ಆಗಿದ್ದು ಅದು ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಗೆ ವಸ್ತುಗಳ ಚಿತ್ರಗಳನ್ನು ಗುರುತಿಸಲು ಮತ್ತು ವರ್ಗೀಕರಿಸಲು ಕಲಿಯಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ.
ಈ ರೀತಿಯ ಮಾದರಿಗಳಿಗೆ ಅವುಗಳನ್ನು ಲೇಬಲ್ ಮಾಡಲಾದ ಚಿತ್ರಗಳೊಂದಿಗೆ ತರಬೇತಿ ನೀಡಲಾಗುತ್ತದೆ, ಇದರಿಂದಾಗಿ ಅವರು ಇತರ ಸಂದರ್ಭಗಳಲ್ಲಿ ಗುರುತಿಸಲು ಅನುಮತಿಸುವ ವಿನ್ಯಾಸ, ಆಕಾರ ಮತ್ತು ಬಣ್ಣಗಳಂತಹ ನಿರ್ದಿಷ್ಟ ಗುಣಲಕ್ಷಣಗಳನ್ನು ಗುರುತಿಸಲು ಕಲಿಯುತ್ತಾರೆ.
ಅಲ್ಗಾರಿದಮ್‌ನ ಹೆಸರನ್ನು ಪ್ರಾಣಿಗಳ ಹೆಸರಿನಂತೆಯೇ ಉಚ್ಚರಿಸಲಾಗಿರುವುದರಿಂದ, ಕೆಲವು ಗ್ರಂಥಾಲಯಗಳಿಗೆ ವಿಕುನಾ (ñ ಅನ್ನು ಬಳಸದ ಭಾಷೆಗಳಲ್ಲಿ ವಿಕುನಾ) ಅಥವಾ ಅಲ್ಪಾಕಾದಂತಹ ಒಂದೇ ರೀತಿಯ ಜಾತಿಗಳ ಹೆಸರನ್ನು ಇಡಲಾಗಿದೆ.
ಒಲ್ಲಮಾ AI ಗೆ ಹಿಂತಿರುಗಿ, ನಮ್ಮ ಲಿನಕ್ಸ್ ವಿತರಣೆಯ ಟರ್ಮಿನಲ್‌ನಿಂದ ವಿಭಿನ್ನ ತೆರೆದ ಮೂಲ ಮಾದರಿಗಳನ್ನು ಡೌನ್‌ಲೋಡ್ ಮಾಡಲು ಮತ್ತು ಚಲಾಯಿಸಲು ಇದು ನಮಗೆ ಅನುಮತಿಸುತ್ತದೆ. ಇದನ್ನು ಆಜ್ಞೆಯೊಂದಿಗೆ ಸ್ಥಾಪಿಸಲಾಗಿದೆ:
curl https://ollama.ai/install.sh | sh
ಮಾದರಿಯನ್ನು ಪ್ರಾರಂಭಿಸಲು ನಾವು ಆಜ್ಞೆಯನ್ನು ಬರೆಯುತ್ತೇವೆ:
ollama run nombre_del_modelo
ನಾವು ಮಾದರಿಗಳ ಪಟ್ಟಿಯನ್ನು ನೋಡಬಹುದು ಇಲ್ಲಿ
ಉದಾಹರಣೆಗೆ, TinyLlaama ಅನ್ನು ಸ್ಥಾಪಿಸಲು, ಕೇವಲ ಒಂದು ಟೆರಾಬೈಟ್ ನಿಯತಾಂಕಗಳನ್ನು ಹೊಂದಿರುವ ಮಾದರಿ, ನಾವು ಆಜ್ಞೆಯನ್ನು ಬಳಸುತ್ತೇವೆ:
ollama run tinyllama
ಈ ಆಜ್ಞೆಯನ್ನು ಮೊದಲ ಬಾರಿಗೆ ಕಾರ್ಯಗತಗೊಳಿಸಿದಾಗ ಮಾದರಿಯನ್ನು ಕಂಪ್ಯೂಟರ್‌ಗೆ ಡೌನ್‌ಲೋಡ್ ಮಾಡಲಾಗುತ್ತದೆ. ಕೆಲವರು ಹಲವಾರು ಗಿಗಾಬೈಟ್‌ಗಳ ಡಿಸ್ಕ್ ಜಾಗವನ್ನು ತೆಗೆದುಕೊಳ್ಳುತ್ತಾರೆ ಎಂಬುದನ್ನು ದಯವಿಟ್ಟು ಗಮನಿಸಿ.
ಆಜ್ಞೆಯೊಂದಿಗೆ ನೀವು ಮಾದರಿಯನ್ನು ಅಳಿಸಬಹುದು:
ollama rm nombre_del modelo
ಸ್ಥಾಪಿಸಲಾದ ಮಾದರಿಗಳ ಪಟ್ಟಿಯನ್ನು ನೋಡಲು ಆಜ್ಞೆಯನ್ನು ಬಳಸಿ:
ಒಲ್ಲಮ ಪಟ್ಟಿ
ಸ್ಥಾಪಿಸಲಾದ ಪ್ರತಿಯೊಂದು ಮಾದರಿಗಳ ಬಗ್ಗೆ ಮಾಹಿತಿಯನ್ನು ನೀವು ಇದರೊಂದಿಗೆ ನೋಡಬಹುದು:
ollama show
ಒಲ್ಲಮಾ ಮಾದರಿ ಲೈಬ್ರರಿಯಿಂದ ಆಸಕ್ತಿದಾಯಕ ಆಯ್ಕೆಯು "ಸೆನ್ಸಾರ್ಡ್" ಎಂದು ಕರೆಯಲ್ಪಡುತ್ತದೆ.. ಸುಪ್ರಸಿದ್ಧ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ ಮಾದರಿಗಳು ಕಾನೂನಿನೊಂದಿಗೆ ಮಾತ್ರವಲ್ಲದೆ ರಾಜಕೀಯ ಸರಿಯಾದತೆಯ ಸಾಮಾಜಿಕ ಒತ್ತಡಗಳನ್ನು ಅನುಸರಿಸಲು ಕೆಲವು ರೀತಿಯ ಪ್ರಶ್ನೆಗಳ ಮೇಲೆ ನಿರ್ಬಂಧಗಳನ್ನು ವಿಧಿಸುತ್ತವೆ.
ಬಹಳ ಹಿಂದೆಯೇ ನಾನು ಮೈಕ್ರೋಸಾಫ್ಟ್‌ನ ಚಾಟ್‌ಜಿಪಿಟಿ-ಆಧಾರಿತ ಸಹಾಯಕ ಕಾಪಿಲೋಟ್‌ಗೆ ಮಂಜುಗಡ್ಡೆಯ ಹಾಸ್ಯಗಳನ್ನು ಹೇಳಲು ಕೇಳಿದ್ದು ನನಗೆ ನೆನಪಿದೆ. ಪರಿಸರ ವಿಪತ್ತುಗಳು ಹಾಸ್ಯ ಮಾಡಲು ತುಂಬಾ ಗಂಭೀರವಾದ ವಿಷಯವಾಗಿದೆ ಎಂದು ಅವರು ನನಗೆ ಹೇಳಿದರು.
ಸೆನ್ಸಾರ್ ಮಾಡದ ಮಾದರಿಗಳು ಅವರು AI ಗಳು ಪ್ರತಿಕ್ರಿಯಿಸಲು ನಿರಾಕರಿಸುವ ಸಂದರ್ಭಗಳನ್ನು ಗುರುತಿಸುತ್ತಾರೆ ಅಥವಾ ಮೂಲ ಮಾದರಿಗಳಿಂದ ಪಕ್ಷಪಾತದ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ನೀಡುತ್ತಾರೆ, ಅವುಗಳನ್ನು ತೆಗೆದುಹಾಕುತ್ತಾರೆ ಮತ್ತು ಸರಿಯಾಗಿ ಪ್ರತಿಕ್ರಿಯಿಸಲು ಸಿಸ್ಟಮ್ಗೆ ತರಬೇತಿ ನೀಡುತ್ತಾರೆ.
ಸೀಮಿತ ಪ್ರಮಾಣದ RAM ಮತ್ತು ಮೀಸಲಾದ ಗ್ರಾಫಿಕ್ಸ್ ಕಾರ್ಡ್ ಇಲ್ಲದ ಕಂಪ್ಯೂಟರ್‌ಗಳಲ್ಲಿ Ollama AI ಎಷ್ಟು ಉಪಯುಕ್ತ ಎಂದು ತಿಳಿಯಲು ನಾನು ಹೆಚ್ಚಿನ ಪರೀಕ್ಷೆಗಳನ್ನು ಮಾಡಬೇಕಾಗಿದೆ. ಯಾವುದೇ ಸಂದರ್ಭದಲ್ಲಿ, ಓಪನ್ ಸೋರ್ಸ್ ಪರ್ಯಾಯಗಳು ತಮ್ಮ ದಾರಿಯನ್ನು ಮಾಡಿಕೊಳ್ಳುತ್ತಿವೆ ಮತ್ತು ಸೆನ್ಸಾರ್‌ಶಿಪ್ ಅನ್ನು ತೆಗೆದುಹಾಕಲು ಅನುವು ಮಾಡಿಕೊಡುತ್ತದೆ ಎಂದು ತಿಳಿದುಕೊಳ್ಳುವುದು ಒಳ್ಳೆಯದು.