2026 ರಲ್ಲಿ ಆಧುನಿಕ AI ವ್ಯವಸ್ಥೆಗಳ ಹಿಂದಿರುವ ಏಳು ಪ್ರಮುಖ ಅಂಗಗಳು

2026 ರಲ್ಲಿ ಆಧುನಿಕ AI ವ್ಯವಸ್ಥೆಗಳ ಹಿಂದಿರುವ ಏಳು ಪ್ರಮುಖ ಅಂಗಗಳು

LLM, RAG, vector database, agent, MCP, guardrails ಮತ್ತು evals, ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಒಂದು ಕಾರ್ಖಾನೆಯ ರೂಪದಲ್ಲಿ ವಿವರಣೆ

ಕೇವಲ ಸಂಭಾಷಣೆ ನಡೆಸುವ ಚಾಟ್‌ಬಾಟ್ ಅನ್ನು ನಿರ್ಮಿಸುವುದು ಸುಲಭ. ಆದರೆ ಪ್ರತಿದಿನ ಸುರಕ್ಷಿತವಾಗಿ, ನೈಜವಾಗಿ ಕೆಲಸ ಮಾಡುವ AI ವ್ಯವಸ್ಥೆಗೆ ಒಟ್ಟಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಅನೇಕ ಭಾಗಗಳ ಗುಂಪೇ ಬೇಕಾಗುತ್ತದೆ.

ಇಂದು ಅಕ್ಟೋಬರ್ 22, 2026, ಮತ್ತು ಇದು ಪ್ರಸ್ತುತ ಸಮಯದಲ್ಲಿ ಹೆಚ್ಚು ಮಹತ್ವದ್ದಾಗಿದೆ, ಏಕೆಂದರೆ ಬಹುತೇಕ ಕಂಪನಿಗಳು "ನಾವು ಚಾಟ್‌ಬಾಟ್ ಅನ್ನು ಪ್ರಯತ್ನಿಸೋಣ" ಎಂಬ ಹಂತವನ್ನು ದಾಟಿ ಮುಂದೆ ಬಂದಿವೆ. ಅವುಗಳಿಗೆ ಈಗ ತಮ್ಮ ಸ್ವಂತ ದಾಖಲೆಗಳಿಂದ ಉತ್ತರಿಸುವ, ತಮ್ಮದೇ ಸಾಧನಗಳಲ್ಲಿ ನೈಜ ಕ್ರಮಗಳನ್ನು ಕೈಗೊಳ್ಳುವ ಮತ್ತು ತಮಗೆ ಮುಜುಗರ ತರದ AI ಅಗತ್ಯವಿದೆ. ಈ ತಿಂಗಳು ಜನಪ್ರಿಯವಾಗಿರುವ ಇನ್ಫೋಗ್ರಾಫಿಕ್ ಒಂದು, ಕಾರ್ಖಾನೆಯ ಭಾಗಗಳಿಗೆ ಹೋಲಿಸಲಾದ ಏಳು ಬಿಲ್ಡಿಂಗ್ ಬ್ಲಾಕ್‌ಗಳಲ್ಲಿ ಇದು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ಸಾರಾಂಶವಾಗಿ ತಿಳಿಸುತ್ತದೆ. ಈ ಲೇಖನವು ಆ ಎಲ್ಲಾ ಏಳನ್ನು ಸರಳ ಭಾಷೆಯಲ್ಲಿ ವಿವರವಾಗಿ ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ಅವು ಹೇಗೆ ಪರಸ್ಪರ ಹೊಂದಿಕೊಳ್ಳುತ್ತವೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತದೆ.

ವಿಶಾಲ ಚಿತ್ರಣ: ಒಂದು ಕಾರ್ಖಾನೆಯ ಬಗ್ಗೆ ಯೋಚಿಸಿ

ವಿನಂತಿಗಳನ್ನು ಪೂರ್ಣಗೊಂಡ ಕೆಲಸವಾಗಿ ಪರಿವರ್ತಿಸುವ ಒಂದು ಸಣ್ಣ ಕಾರ್ಖಾನೆಯನ್ನು ಊಹಿಸಿಕೊಳ್ಳಿ.

  • ಇಲ್ಲಿ ಒಂದು ಯಂತ್ರ ಇದೆ, ಅದು ನೈಜ ತಯಾರಿಕೆಯನ್ನು ಮಾಡುತ್ತದೆ.
  • ಇಲ್ಲಿ ಒಂದು ಕಚ್ಚಾ ವಸ್ತುಗಳ ಕೊಠಡಿ ಇದೆ, ಯಂತ್ರ ಪ್ರಾರಂಭವಾಗುವ ಮೊದಲು ಅಲ್ಲಿಂದ ಸೂಕ್ತ ವಸ್ತುಗಳನ್ನು ತರಲಾಗುತ್ತದೆ.
  • ಇಲ್ಲಿ ಒಂದು ಶೇಖರಣಾ ಗೋದಾಮು ಇದೆ, ಅಲ್ಲಿ ಹುಡುಕಲು ಸುಲಭವಾಗುವಂತೆ ಎಲ್ಲಾ ವಸ್ತುಗಳನ್ನು ಜೋಡಿಸಿ ಇಡಲಾಗುತ್ತದೆ.
  • ಇಲ್ಲಿ ಒಬ್ಬರು ಫ್ಲೋರ್ ಮ್ಯಾನೇಜರ್ ಇರುತ್ತಾರೆ, ಅವರು ಮುಂದೆ ಏನು ನಡೆಯಬೇಕು ಮತ್ತು ಯಾವ ಸಾಧನಗಳನ್ನು ಬಳಸಬೇಕೆಂದು ನಿರ್ಧರಿಸುತ್ತಾರೆ.
  • ಇಲ್ಲಿ ಒಂದು ಪ್ರಮಾಣಿತ ಪವರ್ ಔಟ್‌ಲೆಟ್ ಇದೆ, ಆದ್ದರಿಂದ ಯಾವುದೇ ಪ್ರತ್ಯೇಕ ವೈರಿಂಗ್ ಇಲ್ಲದೆ ಯಾವುದೇ ಸಾಧನವನ್ನು ಪ್ಲಗ್ ಇನ್ ಮಾಡಬಹುದು.
  • ಇಲ್ಲಿ ಒಂದು ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆ ಇದೆ, ಅದು ಅಪಾಯಕಾರಿ ಕ್ರಮಗಳನ್ನು ತಡೆಯುತ್ತದೆ.
  • ಇಲ್ಲಿ ಒಂದು ಗುಣಮಟ್ಟ ತಪಾಸಣೆ ಕೊನೆಯಲ್ಲಿ ಇರುತ್ತದೆ, ಅದು ಫಲಿತಾಂಶವು ಉತ್ತಮವಾಗಿದೆಯೇ ಎಂದು ಪರೀಕ್ಷಿಸುತ್ತದೆ.

ಇವುಗಳಲ್ಲಿ ಪ್ರತಿಯೊಂದೂ ಆಧುನಿಕ AI ವ್ಯವಸ್ಥೆಯ ಒಂದೊಂದು ಬಿಲ್ಡಿಂಗ್ ಬ್ಲಾಕ್‌ಗೆ ಸರಿಹೊಂದುತ್ತದೆ. ಬನ್ನಿ, ಅವುಗಳನ್ನು ಒಂದೊಂದಾಗಿ ತಿಳಿದುಕೊಳ್ಳೋಣ.

1. The LLM: ಯಂತ್ರ

LLM, ಅಥವಾ large language model, ಹೆಚ್ಚಿನ ಜನರು ಈಗಾಗಲೇ ತಿಳಿದಿರುವ ಭಾಗವಾಗಿದೆ. ಇದು ChatGPT, Claude ಮತ್ತು Gemini ಯಂತಹ ಸಾಧನಗಳ ಹಿಂದಿರುವ ಮಾದರಿಯಾಗಿದೆ. ಇದನ್ನು ಅಗಾಧ ಪ್ರಮಾಣದ ಪಠ್ಯದ ಮೇಲೆ ತರಬೇತುಗೊಳಿಸಲಾಗಿದೆ, ಆದ್ದರಿಂದ ಇದು ಬರೆಯಬಲ್ಲದು, ಸಾರಾಂಶ ನೀಡಬಲ್ಲದು, ವಿವರಿಸಬಲ್ಲದು, ಅನುವಾದಿಸಬಲ್ಲದು ಮತ್ತು ಒಂದು ಸಮಸ್ಯೆಯನ್ನು ಹಂತ ಹಂತವಾಗಿ ವಿಶ್ಲೇಷಿಸಿ ತಾರ್ಕಿಕವಾಗಿ ಯೋಚಿಸಬಲ್ಲದು.

ಕಾರ್ಖಾನೆಯ ಚಿತ್ರಣದಲ್ಲಿ, LLM ಎಂಬುದು ಯಂತ್ರವಾಗಿದೆ. ಇದು ಶಕ್ತಿಶಾಲಿಯಾಗಿದೆ, ಆದರೆ ಸ್ವತಂತ್ರವಾಗಿ ಇದು ಎರಡು ದೊಡ್ಡ ಮಿತಿಗಳನ್ನು ಹೊಂದಿದೆ:

  • ಇದು ತರಬೇತಿಯ ಸಮಯದಲ್ಲಿ ತಾನು ಕಲಿತದ್ದನ್ನು ಮಾತ್ರ ತಿಳಿದಿರುತ್ತದೆ. ಇದಕ್ಕೆ ನಿಮ್ಮ ಕಂಪನಿಯ ರಜೆ ನೀತಿ, ನಿನ್ನೆಯ ಮಾರಾಟದ ಅಂಕಿಅಂಶಗಳು ಅಥವಾ ಇಂದು ಬೆಳಿಗ್ಗೆ ಗ್ರಾಹಕರೊಬ್ಬರು ತೆರೆದ ಟಿಕೆಟ್ ಬಗ್ಗೆ ತಿಳಿದಿರುವುದಿಲ್ಲ.
  • ತಪ್ಪಾಗಿದ್ದರೂ ಸಹ ಇದು ಆತ್ಮವಿಶ್ವಾಸದಿಂದ ಕೂಡಿದಂತೆ ಧ್ವನಿಸಬಹುದು. ಇದರ ಬಳಿ ಸತ್ಯಾಂಶಗಳ ಕೊರತೆಯಿದ್ದಾಗ, ಇದು ಸರಿಯೆನಿಸುವ ಯಾವುದೋ ಒಂದರಿಂದ ಆ ಜಾಗವನ್ನು ತುಂಬಬಹುದು. ಇದನ್ನು ಹೆಚ್ಚಾಗಿ ಭ್ರಮೆ (hallucination) ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ.

ಅದಕ್ಕಾಗಿಯೇ LLM ಕೇವಲ ಮೊದಲ ಬ್ಲಾಕ್ ಮಾತ್ರ, ಸಂಪೂರ್ಣ ವ್ಯವಸ್ಥೆಯಲ್ಲ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: Klarna. ಫೆಬ್ರವರಿ 2024 ರಲ್ಲಿ, ಪಾವತಿ ಕಂಪನಿ Klarna, OpenAI ನ ಮಾದರಿಗಳ ಮೇಲೆ ನಿರ್ಮಿಸಲಾದ ತನ್ನ ಗ್ರಾಹಕ ಸೇವಾ ಸಹಾಯಕವು ತನ್ನ ಮೊದಲ ತಿಂಗಳಲ್ಲಿ 2.3 ಮಿಲಿಯನ್ ಸಂಭಾಷಣೆಗಳನ್ನು ನಿರ್ವಹಿಸಿದೆ ಎಂದು ಘೋಷಿಸಿತು, ಇದು ಅದರ ಒಟ್ಟಾರೆ ಗ್ರಾಹಕ ಸೇವಾ ಚಾಟ್‌ಗಳ ಸುಮಾರು ಮೂರನೇ ಎರಡರಷ್ಟಾಗಿತ್ತು. ಗ್ರಾಹಕರು ಹನ್ನೊಂದು ನಿಮಿಷಗಳ ಬದಲಿಗೆ ಎರಡು ನಿಮಿಷಗಳಿಗಿಂತ ಕಡಿಮೆ ಅವಧಿಯಲ್ಲಿ ತಮ್ಮ ಸಮಸ್ಯೆಗಳನ್ನು ಬಗೆಹರಿಸಿಕೊಂಡಿದ್ದಾರೆ ಎಂದು Klarna ಹೇಳಿದೆ. ಇವು ಕಂಪನಿಯ ಸ್ವಂತ ಬಿಡುಗಡೆ ಅಂಕಿಅಂಶಗಳಾಗಿದ್ದು, ಸ್ವತಂತ್ರ ಆಡಿಟ್ ಅಲ್ಲ, ಮತ್ತು ಗ್ರಾಹಕರು ಯಾವಾಗಲೂ ಮಾನವ ಪ್ರತಿನಿಧಿಯನ್ನು ಸಂಪರ್ಕಿಸಬಹುದು ಎಂದು Klarna ನಂತರ ಸ್ಪಷ್ಟಪಡಿಸಿತು. ಹಾಗಿದ್ದರೂ, ಸರಿಯಾದ ಸ್ಥಳದಲ್ಲಿ ಬಳಸಲಾದ LLM ಎಷ್ಟು ಪ್ರಮಾಣದ ದಿನನಿತ್ಯದ ಬರವಣಿಗೆ ಮತ್ತು ವಿವರಣೆಯನ್ನು ನಿಭಾಯಿಸಬಲ್ಲದು ಎಂಬುದನ್ನು ಇದು ತೋರಿಸುತ್ತದೆ.

2. RAG: ಕಚ್ಚಾ ವಸ್ತುಗಳ ಕೊಠಡಿ

RAG ಎಂದರೆ retrieval-augmented generation. ಇದರ ಪರಿಕಲ್ಪನೆ ಸರಳವಾಗಿದೆ: ಮಾದರಿಯು ಉತ್ತರಿಸುವ ಮೊದಲು, ವ್ಯವಸ್ಥೆಯು ಮೊದಲು ಸಂಬಂಧಿತ ಮಾಹಿತಿಯನ್ನು ಹುಡುಕಿ ಪ್ರಶ್ನೆಯೊಂದಿಗೆ ಮಾದರಿಗೆ ನೀಡುತ್ತದೆ.

ಆದ್ದರಿಂದ ಮಾದರಿಯನ್ನು "ನಮ್ಮ ಮರುಪಾವತಿ ನೀತಿ ಏನು?" ಎಂದು ಕೇಳಿ ಅದು ಊಹಿಸಲಿ ಎಂದು ಕಾಯುವ ಬದಲು, ವ್ಯವಸ್ಥೆಯು:

  1. ಮರುಪಾವತಿ ನೀತಿಗಾಗಿ ನಿಮ್ಮ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕುತ್ತದೆ,
  2. ಅತ್ಯಂತ ಸೂಕ್ತವಾದ ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗಳನ್ನು ವಿನಂತಿಗೆ ಸೇರಿಸುತ್ತದೆ,
  3. ಆ ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಉತ್ತರಿಸಲು ಮಾದರಿಯನ್ನು ಕೇಳುತ್ತದೆ.

ಕಾರ್ಖಾನೆಯಲ್ಲಿ, ಇದು ಕಚ್ಚಾ ವಸ್ತುಗಳ ಕೊಠಡಿಯಾಗಿದೆ. ಯಂತ್ರಕ್ಕೆ ಮೊದಲು ಸರಿಯಾದ ವಸ್ತುಗಳನ್ನು ಒದಗಿಸಿದಾಗ ಅದು ಹೆಚ್ಚು ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ. AI ಸಹಾಯಕವು ನಿಮ್ಮ ಸ್ವಂತ ವ್ಯವಹಾರದ ಬಗ್ಗೆ ಸರಿಯಾಗಿ ಉತ್ತರಿಸಲು RAG ಮುಖ್ಯ ಕಾರಣವಾಗಿದೆ, ಮತ್ತು ಉತ್ತರವು ಯಾವ ದಾಖಲೆಯಿಂದ ಬಂದಿದೆ ಎಂಬುದನ್ನು ತೋರಿಸಲು ಸಹ ಇದು ಸಾಧ್ಯವಾಗಿಸುತ್ತದೆ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: Morgan Stanley. ಸೆಪ್ಟೆಂಬರ್ 2023 ರಲ್ಲಿ, Morgan Stanley ತನ್ನ ಹಣಕಾಸು ಸಲಹೆಗಾರರಿಗಾಗಿ OpenAI ನ GPT-4 ಆಧಾರಿತ ಆಂತರಿಕ ಸಹಾಯಕವನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿತು. ಮಾದರಿಯ ಸಾಮಾನ್ಯ ಜ್ಞಾನದ ಮೇಲೆ ಅವಲಂಬಿತವಾಗುವ ಬದಲು, ಇದು ಸಂಸ್ಥೆಯ ಸ್ವಂತ ಸುಮಾರು 100,000 ಸಂಶೋಧನಾ ವರದಿಗಳು ಮತ್ತು ದಾಖಲೆಗಳ ಸಂಗ್ರಹದಿಂದ ಉತ್ತರಿಸುತ್ತದೆ. ಪ್ರಾಯೋಗಿಕವಾಗಿ RAG ಎಂದರೆ ಇದೇ: ಮೊದಲು ಸರಿಯಾದ ಆಂತರಿಕ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕುವುದು, ನಂತರ ಅವುಗಳಿಂದ ಉತ್ತರವನ್ನು ಬರೆಯಲು ಮಾದರಿಗೆ ಅವಕಾಶ ನೀಡುವುದು.

3. The vector database: ಶೇಖರಣಾ ಗೋದಾಮು

RAG ಹುಡುಕಾಟ ನಡೆಸಲು ಎಲ್ಲಾದರೂ ಸ್ಥಳ ಬೇಕು. ಅದೇ vector database ನ ಕೆಲಸವಾಗಿದೆ.

ಇಲ್ಲಿದೆ ಪ್ರಮುಖ ಪರಿಕಲ್ಪನೆ. ಕೈಪಿಡಿಯ ಒಂದು ಪ್ಯಾರಾಗ್ರಾಫ್‌ನಂತಹ ಪ್ರತಿಯೊಂದು ಪಠ್ಯದ ಭಾಗವನ್ನು embedding (ಅಥವಾ vector) ಎಂದು ಕರೆಯಲಾಗುವ ಸಂಖ್ಯೆಗಳ ದೀರ್ಘ ಪಟ್ಟಿಯಾಗಿ ಪರಿವರ್ತಿಸಲಾಗುತ್ತದೆ. ಸಮಾನ ಅರ್ಥವನ್ನು ಹೊಂದಿರುವ ಪಠ್ಯಗಳು ಒಂದೇ ರೀತಿಯ ಸಂಖ್ಯೆಗಳನ್ನು ಪಡೆಯುತ್ತವೆ. ಒಂದು ಪ್ರಶ್ನೆ ಬಂದಾಗ, ಅದನ್ನು ಸಹ ಸಂಖ್ಯೆಗಳಾಗಿ ಪರಿವರ್ತಿಸಲಾಗುತ್ತದೆ, ಮತ್ತು ಡೇಟಾಬೇಸ್ ಯಾವ ಸಂಗ್ರಹಿತ ಭಾಗಗಳ ಸಂಖ್ಯೆಗಳು ಅತ್ಯಂತ ಹತ್ತಿರದಲ್ಲಿವೆಯೋ ಅವುಗಳನ್ನು ಹುಡುಕುತ್ತದೆ.

ಅದಕ್ಕಾಗಿಯೇ ಇನ್ಫೋಗ್ರಾಫಿಕ್ ಇದು "ಕೀವರ್ಡ್‌ಗಳ ಬದಲಿಗೆ ಅರ್ಥದ ಆಧಾರದ ಮೇಲೆ ಮರುಪಡೆಯುತ್ತದೆ" ಎಂದು ಹೇಳುತ್ತದೆ. ಯಾವುದೇ ಪದಗಳು ಹೊಂದಿಕೆಯಾಗದಿದ್ದರೂ ಸಹ, "ನನ್ನ ಹಣವನ್ನು ನಾನು ಮರಳಿ ಪಡೆಯಬಹುದೇ?" ಎಂಬ ಪ್ರಶ್ನೆಯು "Refunds and returns" ಎಂಬ ಶೀರ್ಷಿಕೆಯ ಪ್ಯಾರಾಗ್ರಾಫ್ ಅನ್ನು ಹುಡುಕಬಲ್ಲದು.

ಕಾರ್ಖಾನೆಯಲ್ಲಿ, vector database ಎಂಬುದು ಶೇಖರಣಾ ಗೋದಾಮಾಗಿದೆ: ಸರಿಯಾದ ವಸ್ತುವನ್ನು ತ್ವರಿತವಾಗಿ ಹುಡುಕಲು ಸಾಧ್ಯವಾಗುವಂತೆ ಎಲ್ಲವನ್ನೂ ಒಂದು ಕ್ರಮದಲ್ಲಿ ಸಂಗ್ರಹಿಸಲಾಗುತ್ತದೆ. 2026 ರಲ್ಲಿ ಜನಪ್ರಿಯವಾಗಿರುವ ಆಯ್ಕೆಗಳಲ್ಲಿ ಮೀಸಲಾದ vector database ಗಳು ಮತ್ತು PostgreSQL ನಂತಹ ಸಾಮಾನ್ಯ ಡೇಟಾಬೇಸ್‌ಗಳಿಗಾಗಿ ಇರುವ vector add-on ಗಳು ಸೇರಿವೆ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: Spotify. ಹಾಡುಗಳ ಶಿಫಾರಸುಗಳಿಗಾಗಿ Spotify ಈ "ಅತ್ಯಂತ ಸಮೀಪದ ನೆರೆಹೊರೆಯವರನ್ನು ಹುಡುಕಿ" ಎಂಬ ಪರಿಕಲ್ಪನೆಯನ್ನು ದೀರ್ಘಕಾಲದಿಂದ ಬಳಸುತ್ತಿದೆ. 2023 ರಲ್ಲಿ ಇದು Voyager ಎಂಬ ಲೈಬ್ರರಿಯನ್ನು ಓಪನ್ ಸೋರ್ಸ್ ಮಾಡಿತು, ಇದು ಅತ್ಯಂತ ನಿಕಟವಾದ ಹೊಂದಾಣಿಕೆಗಳನ್ನು ಹುಡುಕಲು ವೆಕ್ಟರ್‌ಗಳ ದೊಡ್ಡ ಸಂಗ್ರಹಗಳನ್ನು ಹುಡುಕುತ್ತದೆ, ಮತ್ತು ತನ್ನ ಉತ್ಪನ್ನಗಳ ಒಳಗೆ ಇದನ್ನು ದಿನಕ್ಕೆ ನೂರಾರು ಮಿಲಿಯನ್ ಬಾರಿ ಪ್ರಶ್ನಿಸಲಾಗುತ್ತದೆ ಎಂದು Spotify ಹೇಳುತ್ತದೆ. "ಈ ಹಾಡಿನಂತೆಯೇ ಅನುಭವ ನೀಡುವ ಹಾಡುಗಳನ್ನು" ಹುಡುಕುವ ಅದೇ ಪರಿಕಲ್ಪನೆಯು "ಈ ಪ್ರಶ್ನೆಯ ಅದೇ ಅರ್ಥವನ್ನು ಹೊಂದಿರುವ ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗಳನ್ನು" ಸಹ ಹುಡುಕುತ್ತದೆ.

4. The AI agent: ಫ್ಲೋರ್ ಮ್ಯಾನೇಜರ್

ಕೇವಲ ಮಾತನಾಡುವ AI ಅನ್ನು ಕೆಲಸಗಳನ್ನು ಮಾಡುವ AI ಆಗಿ ಪರಿವರ್ತಿಸುವುದೇ agent ಆಗಿದೆ.

agent ಎಂಬುದು LLM ಸುತ್ತಲೂ ನಿರ್ಮಿಸಲಾದ ಒಂದು ಲೂಪ್ ಆಗಿದೆ. ಇದು ಗುರಿಯನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ, ಮುಂದಿನ ಹಂತವನ್ನು ನಿರ್ಧರಿಸುತ್ತದೆ, ಒಂದು ಸಾಧನವನ್ನು ಬಳಸುತ್ತದೆ, ಫಲಿತಾಂಶವನ್ನು ಪರಿಶೀಲಿಸುತ್ತದೆ ಮತ್ತು ಕೆಲಸ ಪೂರ್ಣಗೊಳ್ಳುವವರೆಗೆ ಇದನ್ನು ಪುನರಾವರ್ತಿಸುತ್ತದೆ. ಉದಾಹರಣೆಗೆ, "ನನ್ನ ಮಧ್ಯಾಹ್ನ 3 ಗಂಟೆಯ ಸಭೆಯನ್ನು ಮರುಹೊಂದಿಸಿ ಮತ್ತು ಭಾಗವಹಿಸುವವರಿಗೆ ತಿಳಿಸಿ" ಎಂದು ಹೇಳಿದಾಗ, ಒಂದು agent ಹೀಗೆ ಮಾಡಬಹುದು:

  1. ಕ್ಯಾಲೆಂಡರ್ ಅನ್ನು ಓದುವುದು,
  2. ಖಾಲಿ ಇರುವ ಸಮಯವನ್ನು ಹುಡುಕುವುದು,
  3. ಸಭೆಯನ್ನು ಬೇರೆ ಸಮಯಕ್ಕೆ ಬದಲಾಯಿಸುವುದು,
  4. ಭಾಗವಹಿಸುವ ಪ್ರತಿಯೊಬ್ಬರಿಗೂ ಸಣ್ಣ ಇಮೇಲ್ ಕಳುಹಿಸುವುದು,
  5. ತಾನು ಏನು ಮಾಡಿದೆ ಎಂಬುದರ ವರದಿಯನ್ನು ಹಿಂತಿರುಗಿಸುವುದು.

ಕಾರ್ಖಾನೆಯಲ್ಲಿ, agent ಫ್ಲೋರ್ ಮ್ಯಾನೇಜರ್ ಇದ್ದಂತೆ. ಇದು ಪ್ರತಿಯೊಂದು ಕೆಲಸವನ್ನು ತನ್ನ ಕೈಯಿಂದ ಮಾಡುವುದಿಲ್ಲ; ಮುಂದೆ ಏನು ನಡೆಯಬೇಕೆಂದು ನಿರ್ಧರಿಸಿ ಸರಿಯಾದ ಸಾಧನಕ್ಕೆ ಕೆಲಸವನ್ನು ನಿಯೋಜಿಸುತ್ತದೆ. ಇದು ಶಕ್ತಿಶಾಲಿಯಾಗಿದೆ, ಜೊತೆಗೆ ಅಪಾಯಗಳು ಹೆಚ್ಚಾಗುವುದು ಸಹ ಇಲ್ಲಿಯೇ, ಏಕೆಂದರೆ ಈಗ ಒಂದು agent ವಾಸ್ತವಿಕ ವಿಷಯಗಳನ್ನು ಬದಲಾಯಿಸಬಲ್ಲದು.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: GitHub Copilot coding agent. ಮೇ 2025 ರಲ್ಲಿ, GitHub ಕೋಡಿಂಗ್ ಏಜೆಂಟ್ ಅನ್ನು ಸಾರ್ವಜನಿಕ ಮುನ್ನೋಟಕ್ಕೆ ಬಿಡುಗಡೆ ಮಾಡಿತು. ಡೆವಲಪರ್ ಒಬ್ಬರು ಸಮಸ್ಯೆಯೊಂದನ್ನು Copilot ಗೆ ನಿಯೋಜಿಸಿದಾಗ, ಆ agent ತನ್ನದೇ ಆದ ಕಾರ್ಯ ಪರಿಸರವನ್ನು ಸಿದ್ಧಪಡಿಸುತ್ತದೆ, ಕೋಡ್‌ನಲ್ಲಿ ಬದಲಾವಣೆಗಳನ್ನು ಮಾಡುತ್ತದೆ ಮತ್ತು ಯಾವುದನ್ನಾದರೂ ವಿಲೀನಗೊಳಿಸುವ ಮೊದಲು ಜನರು ಪರಿಶೀಲಿಸಲು ಡ್ರಾಫ್ಟ್ pull request ಗೆ ಪುಶ್ ಮಾಡುತ್ತದೆ. ಇದು ಯೋಜಿಸುತ್ತದೆ, ಸಾಧನಗಳನ್ನು ಬಳಸುತ್ತದೆ ಮತ್ತು ವರದಿ ನೀಡುತ್ತದೆ, ಇದು ಫ್ಲೋರ್-ಮ್ಯಾನೇಜರ್ ಮಾದರಿಯಾಗಿದೆ, ಇದರಲ್ಲಿ ಅಂತಿಮ ಫಲಿತಾಂಶವನ್ನು ಇನ್ನೂ ಮಾನವರೇ ಅನುಮೋದಿಸುತ್ತಾರೆ.

5. MCP: ಪವರ್ ಔಟ್‌ಲೆಟ್ ಮಾನದಂಡ

MCP ಎಂದರೆ Model Context Protocol. ಇದು AI ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ಪರಿಕರಗಳು ಮತ್ತು ಡೇಟಾಗೆ ಸಂಪರ್ಕಿಸಲು 2024 ರ ಕೊನೆಯಲ್ಲಿ ಮೊದಲು ಪ್ರಕಟಿಸಲಾದ ಮುಕ್ತ ಮಾನದಂಡವಾಗಿದೆ: ಫೈಲ್‌ಗಳು, ಡೇಟಾಬೇಸ್‌ಗಳು, ಕ್ಯಾಲೆಂಡರ್‌ಗಳು, ಟಿಕೆಟ್ ವ್ಯವಸ್ಥೆಗಳು, ಕೋಡ್ ರೆಪೊಸಿಟರಿಗಳು ಇತ್ಯಾದಿ.

ಇಂತಹ ಮಾನದಂಡಗಳ ಮೊದಲು, ಪ್ರತಿಯೊಂದು AI ಸಾಧನಕ್ಕೂ ಪ್ರತಿಯೊಂದು ಅಪ್ಲಿಕೇಶನ್‌ಗೆ ತನ್ನದೇ ಆದ ಕಸ್ಟಮ್ ಸಂಪರ್ಕದ ಅಗತ್ಯವಿತ್ತು. ಹತ್ತು AI ಸಾಧನಗಳು ಮತ್ತು ಹತ್ತು ಅಪ್ಲಿಕೇಶನ್‌ಗಳು ಎಂದರೆ ನೂರು ಪ್ರತ್ಯೇಕ ಸಂಯೋಜನೆಗಳು ಬೇಕಾಗಬಹುದು. MCP ಯೊಂದಿಗೆ, ಅಪ್ಲಿಕೇಶನ್ ಅನ್ನು ಒಮ್ಮೆ "MCP server" ಆಗಿ ಸುತ್ತುವರಿಯಲಾಗುತ್ತದೆ, ಮತ್ತು MCP ಬೆಂಬಲಿಸುವ ಯಾವುದೇ AI ಅಪ್ಲಿಕೇಶನ್ ಅದಕ್ಕೆ ಪ್ಲಗ್ ಇನ್ ಆಗಬಹುದು.

ಅದಕ್ಕಾಗಿಯೇ ಇನ್ಫೋಗ್ರಾಫಿಕ್ ಇದನ್ನು ಪವರ್ ಔಟ್‌ಲೆಟ್ ಮಾನದಂಡ ಎಂದು ಕರೆಯುತ್ತದೆ: ಒಂದೇ ಪ್ಲಗ್ ಆಕಾರ, ಅನೇಕ ಸಾಧನಗಳು. ನೀವು ಹೊಸ ಉಪಕರಣವನ್ನು ಖರೀದಿಸಿದಾಗಲೆಲ್ಲಾ ಕಟ್ಟಡಕ್ಕೆ ಹೊಸದಾಗಿ ವೈರಿಂಗ್ ಮಾಡುವುದಿಲ್ಲ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: Anthropic ಮತ್ತು OpenAI. Anthropic ನವೆಂಬರ್ 25, 2024 ರಂದು Google Drive, Slack, GitHub, Git ಮತ್ತು Postgres ಗಾಗಿ ಸಿದ್ಧಪಡಿಸಿದ ಕನೆಕ್ಟರ್‌ಗಳೊಂದಿಗೆ MCP ಅನ್ನು ಘೋಷಿಸಿತು. ಮಾರ್ಚ್ 26, 2025 ರಂದು, OpenAI ತನ್ನ Agents SDK ಗೆ MCP ಬೆಂಬಲವನ್ನು ಸೇರಿಸಿತು ಮತ್ತು ChatGPT ಯ ಡೆಸ್ಕ್‌ಟಾಪ್ ಅಪ್ಲಿಕೇಶನ್ ಶೀಘ್ರದಲ್ಲೇ ಇದನ್ನು ಅನುಸರಿಸಲಿದೆ ಎಂದು ಹೇಳಿತು. ಎರಡು ಪ್ರತಿಸ್ಪರ್ಧಿ AI ಕಂಪನಿಗಳು ಒಂದೇ ಪ್ಲಗ್ ಅನ್ನು ಬೆಂಬಲಿಸಿದಾಗ, ಸಾಧನ ತಯಾರಕರು ಒಂದು ಕನೆಕ್ಟರ್ ಅನ್ನು ನಿರ್ಮಿಸಿ ಎರಡರಲ್ಲೂ ಕಾರ್ಯನಿರ್ವಹಿಸುವಂತೆ ಮಾಡಬಹುದು.

6. Guardrails: ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆ

Guardrails ಎಂದರೆ AI ಏನು ಮಾಡಬಹುದು ಮತ್ತು ಏನು ಮಾಡಬಾರದು ಎಂಬುದನ್ನು ನಿರ್ಧರಿಸುವ ನಿಯಮಗಳು ಮತ್ತು ತಪಾಸಣೆಗಳಾಗಿವೆ. ಅವು ಮಾದರಿ ಮತ್ತು ಏಜೆಂಟ್‌ನ ಒಳಗಿರುವುದಿಲ್ಲ, ಅವುಗಳ ಸುತ್ತಲೂ ಇರುತ್ತವೆ.

ಸಾಮಾನ್ಯ guardrails ಗಳಲ್ಲಿ ಇವು ಸೇರಿವೆ:

  • ಇನ್‌ಪುಟ್ ತಪಾಸಣೆಗಳು ಹಾನಿಕಾರಕ ವಿನಂತಿಗಳನ್ನು ಅಥವಾ ಮಾದರಿಯು ತನ್ನ ಸೂಚನೆಗಳನ್ನು ಕಡೆಗಣಿಸುವಂತೆ ವಂಚಿಸುವ ಪ್ರಯತ್ನಗಳನ್ನು (ಸಾಮಾನ್ಯವಾಗಿ prompt injection ಎಂದು ಕರೆಯಲಾಗುತ್ತದೆ) ತಡೆಯುತ್ತವೆ.
  • ಔಟ್‌ಪುಟ್ ತಪಾಸಣೆಗಳು ಸೋರಿಕೆಯಾದ ವೈಯಕ್ತಿಕ ಡೇಟಾ, ಅಸುರಕ್ಷಿತ ವಿಷಯ ಅಥವಾ ಅನುಮತಿಸಲಾದ ವಿಷಯದ ಮಿತಿಯನ್ನು ಮೀರಿದ ಉತ್ತರಗಳನ್ನು ಹಿಡಿಯುತ್ತವೆ.
  • ಕ್ರಿಯೆಯ ಮಿತಿಗಳು ಮಾನವರ ಮೊದಲ ಅನುಮೋದನೆಯಿಲ್ಲದೆ ಡೇಟಾವನ್ನು ಅಳಿಸುವುದು, ಹಣ ಕಳುಹಿಸುವುದು ಅಥವಾ ಗ್ರಾಹಕರಿಗೆ ಇಮೇಲ್ ಕಳುಹಿಸುವಂತಹ ಹೆಚ್ಚಿನ ಅಪಾಯದ ಕೆಲಸಗಳನ್ನು ಏಜೆಂಟ್ ಸ್ವತಃ ಮಾಡುವುದನ್ನು ತಡೆಯುತ್ತವೆ.
  • ಪ್ರವೇಶ ನಿಯಂತ್ರಣ, ಇದರಿಂದ ಕೇಳುವ ವ್ಯಕ್ತಿಯು ನೋಡಲು ಅನುಮತಿ ಹೊಂದಿರುವ ಡೇಟಾವನ್ನು ಮಾತ್ರ AI ಪ್ರವೇಶಿಸಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.

ಕಾರ್ಖಾನೆಯಲ್ಲಿ, ಇದು ಸುರಕ್ಷತಾ ವ್ಯವಸ್ಥೆಯಾಗಿದೆ. ಸುರಕ್ಷತಾ ಕವಚಗಳು ಇರುವುದರಿಂದಲೇ ಯಂತ್ರಗಳು ವೇಗವಾಗಿ ಚಲಿಸಲು ಅನುಮತಿಸಲಾಗುತ್ತದೆ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆಗಳು: Air Canada ಮತ್ತು DPD. 2024 ರ ಆರಂಭದ ಎರಡು ಸಾರ್ವಜನಿಕ ಪ್ರಕರಣಗಳು ಸುರಕ್ಷತಾ ಕವಚಗಳು ಇಲ್ಲದಿದ್ದಾಗ ಏನಾಗುತ್ತದೆ ಎಂಬುದನ್ನು ತೋರಿಸುತ್ತವೆ.

  • Air Canada: ಇದರ ವೆಬ್‌ಸೈಟ್ ಚಾಟ್‌ಬಾಟ್ ಪ್ರಯಾಣಿಕರೊಬ್ಬರಿಗೆ ಪ್ರಯಾಣದ ನಂತರ ಶೋಕಾಚರಣೆಯ ರಿಯಾಯಿತಿಯನ್ನು (bereavement discount) ಪಡೆಯಬಹುದು ಎಂದು ತಿಳಿಸಿತು, ಇದು ವಿಮಾನಯಾನ ಸಂಸ್ಥೆಯ ಸ್ವಂತ ನೀತಿಗೆ ವಿರುದ್ಧವಾಗಿತ್ತು. ಫೆಬ್ರವರಿ 2024 ರಲ್ಲಿ ಬ್ರಿಟಿಷ್ ಕೊಲಂಬಿಯಾ ನ್ಯಾಯಮಂಡಳಿಯು ಚಾಟ್‌ಬಾಟ್ ಹೇಳಿದ ಮಾತಿಗೆ ವಿಮಾನಯಾನ ಸಂಸ್ಥೆಯೇ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ ಎಂದು ತೀರ್ಪು ನೀಡಿತು ಮತ್ತು ಆ ಪ್ರಯಾಣಿಕನಿಗೆ ಪರಿಹಾರ ನೀಡುವಂತೆ ಆದೇಶಿಸಿತು, ಜೊತೆಗೆ ಚಾಟ್‌ಬಾಟ್ ತನ್ನದೇ ಆದ ಕ್ರಮಗಳಿಗೆ ಜವಾಬ್ದಾರವಾಗಿರುವ ಪ್ರತ್ಯೇಕ ಘಟಕ ಎಂಬ ವಾದವನ್ನು ತಿರಸ್ಕರಿಸಿತು.
  • DPD: ಜನವರಿ 2024 ರಲ್ಲಿ ಯುಕೆಯ ಪಾರ್ಸೆಲ್ ಕಂಪನಿಯ ಗ್ರಾಹಕರೊಬ್ಬರು ಅದರ ಚಾಟ್‌ಬಾಟ್‌ನಿಂದ ಬೈಗುಳಗಳನ್ನು ಹೇಳಿಸಿದರು ಮತ್ತು ಕಂಪನಿಯನ್ನು ಟೀಕಿಸುವ ಕವಿತೆಯನ್ನು ಬರೆಸಿದರು. ಸಿಸ್ಟಮ್ ಅಪ್‌ಡೇಟ್ ನಂತರ ಈ ಸಮಸ್ಯೆ ಉಂಟಾಗಿದೆ ಎಂದು DPD ಹೇಳಿತು ಮತ್ತು ಅದನ್ನು ಸರಿಪಡಿಸುವವರೆಗೆ ಚಾಟ್‌ನ AI ಭಾಗವನ್ನು ಆಫ್ ಮಾಡಿತು.

ಯಾವ ಪ್ರಕರಣಕ್ಕೂ ಹೆಚ್ಚು ಬುದ್ಧಿವಂತ ಮಾದರಿಯ ಅಗತ್ಯವಿರಲಿಲ್ಲ. ಎರಡಕ್ಕೂ ವ್ಯವಸ್ಥೆಯು ಏನು ಹೇಳಲು ಅನುಮತಿಸಲಾಗಿದೆ ಎಂಬುದರ ಕುರಿತು ಉತ್ತಮ ತಪಾಸಣೆಗಳ ಅಗತ್ಯವಿತ್ತು.

7. Evals: ಗುಣಮಟ್ಟ ತಪಾಸಣೆ

Evals, ಅಂದರೆ evaluations ನ ಸಂಕ್ಷಿಪ್ತ ರೂಪ, AI ಔಟ್‌ಪುಟ್‌ಗಾಗಿ ನಡೆಸುವ ಪರೀಕ್ಷೆಗಳಾಗಿವೆ. ಸಾಮಾನ್ಯ ಸಾಫ್ಟ್‌ವೇರ್ ಪರೀಕ್ಷೆಗಳು ಒಂದೇ ಇನ್‌ಪುಟ್ ಒಂದೇ ಔಟ್‌ಪುಟ್ ಅನ್ನು ನೀಡುತ್ತದೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸುತ್ತವೆ. AI ಕಡಿಮೆ ಊಹಿಸಬಹುದಾದ್ದರಿಂದ, ಹಲವು ಮಾದರಿ ಪ್ರಶ್ನೆಗಳಲ್ಲಿ ಉತ್ತರಗಳು ಸರಿಯಾಗಿದೆಯೇ, ಸುರಕ್ಷಿತವಾಗಿದೆಯೇ ಮತ್ತು ಉಪಯುಕ್ತವಾಗಿದೆಯೇ ಎಂಬುದನ್ನು evals ಪರಿಶೀಲಿಸುತ್ತವೆ.

ಒಂದು ವಿಶಿಷ್ಟ eval ಸೆಟ್ ತಿಳಿದಿರುವ ಉತ್ತಮ ಉತ್ತರಗಳೊಂದಿಗೆ ಕೆಲವು ನೂರು ನೈಜ ಪ್ರಶ್ನೆಗಳನ್ನು ಹೊಂದಿರಬಹುದು. ಪ್ರತಿ ಬಾರಿ ನೀವು ಮಾದರಿ, ಪ್ರಾಂಪ್ಟ್ ಅಥವಾ ದಾಖಲೆಗಳನ್ನು ಬದಲಾಯಿಸಿದಾಗ, ನೀವು ಆ ಸೆಟ್ ಅನ್ನು ಮತ್ತೊಮ್ಮೆ ಚಲಾಯಿಸಿ ಹೋಲಿಸುತ್ತೀರಿ. ತಂಡಗಳು ಸಾಮಾನ್ಯವಾಗಿ ಇವುಗಳನ್ನು ಅಳೆಯುತ್ತವೆ:

  • ಗುಣಮಟ್ಟ: ಉತ್ತರ ಸರಿಯಾಗಿದೆಯೇ ಮತ್ತು ಅದು ನೀಡಲಾದ ಮೂಲಗಳನ್ನು ಬಳಸುತ್ತದೆಯೇ?
  • ಸುರಕ್ಷತೆ: ಅದು ನಿರಾಕರಿಸಬೇಕಾದದ್ದನ್ನು ನಿರಾಕರಿಸಿದೆಯೇ?
  • ವೆಚ್ಚ: ಪ್ರತಿಯೊಂದು ಉತ್ತರವನ್ನು ಪಡೆಯಲು ಎಷ್ಟು ವೆಚ್ಚವಾಯಿತು?
  • ವಿಳಂಬ ಸಮಯ: ಬಳಕೆದಾರರು ಎಷ್ಟು ಸಮಯ ಕಾಯಬೇಕಾಯಿತು?
  • ಯಶಸ್ಸು: ಏಜೆಂಟ್‌ಗಳಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ, ನಿಯೋಜಿತ ಕೆಲಸವು ವಾಸ್ತವವಾಗಿ ಪೂರ್ಣಗೊಂಡಿದೆಯೇ?

ಕಾರ್ಖಾನೆಯಲ್ಲಿ, ಇದು ಉತ್ಪಾದನಾ ಸಾಲಿನ ಕೊನೆಯಲ್ಲಿ ನಡೆಯುವ ಗುಣಮಟ್ಟ ತಪಾಸಣೆಯಾಗಿದೆ. ಇದಿಲ್ಲದಿದ್ದರೆ, ಗ್ರಾಹಕರು ದೂರು ನೀಡಿದಾಗ ಮಾತ್ರ ಏನಾದರೂ ದೋಷವಿದೆ ಎಂಬುದು ನಿಮಗೆ ತಿಳಿಯುತ್ತದೆ.

ನೈಜ ಜಗತ್ತಿನ ಉದಾಹರಣೆ: ಮತ್ತೊಮ್ಮೆ Morgan Stanley. Morgan Stanley ನ ಸಲಹೆಗಾರ ಸಹಾಯಕರ ಸಾರ್ವಜನಿಕ ವರದಿಗಳು ಮಾದರಿಯಷ್ಟೇ ಪರೀಕ್ಷೆಗೂ ಪ್ರಾಮುಖ್ಯತೆ ನೀಡುತ್ತವೆ: ಸಂಸ್ಥೆಯು ತನ್ನ ದಾಖಲೆಗಳನ್ನು ಸಿದ್ಧಪಡಿಸಲು ತಿಂಗಳುಗಳನ್ನು ಕಳೆದಿದೆ ಮತ್ತು ಮಾನವ ತಜ್ಞರಿಂದ ಸಹಾಯಕರ ಉತ್ತರಗಳನ್ನು ಪರಿಶೀಲಿಸಿದೆ, ಹಾಗೂ OpenAI ಪ್ರಕಟಿಸಿದ ಕೇಸ್ ಸ್ಟಡಿಯು ಮೌಲ್ಯಮಾಪನ ಚೌಕಟ್ಟನ್ನು ಈ ಯೋಜನೆಯ ಕೇಂದ್ರಭಾಗವೆಂದು ವಿವರಿಸಿದೆ. ಆ ಕೇಸ್ ಸ್ಟಡಿಯಲ್ಲಿ ವರದಿಯಾದ ಫಲಿತಾಂಶವೆಂದರೆ ಶೇಕಡಾ 98 ಕ್ಕೂ ಹೆಚ್ಚು ಸಲಹೆಗಾರ ತಂಡಗಳು ಈ ಸಹಾಯಕವನ್ನು ಬಳಸುತ್ತಿವೆ. ಜನರು ಇದನ್ನು ಪ್ರತಿದಿನ ಬಳಸುವಷ್ಟು ನಂಬಲು ಎಚ್ಚರಿಕೆಯ evals ಪ್ರಮುಖ ಕಾರಣವಾಗಿದೆ.

ಒಂದು ವಿನಂತಿಯ ಮೇಲೆ ಏಳೂ ಭಾಗಗಳು ಒಟ್ಟಾಗಿ ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ

Acme ಎಂಬ ಕಾಲ್ಪನಿಕ ಕಂಪನಿಯಲ್ಲಿ, ಎಲ್ಲಾ ಏಳು ಭಾಗಗಳ ಮೂಲಕ ಹರಿಯುವ ಒಂದು ವಿನಂತಿ ಇಲ್ಲಿದೆ:

ಹಂತ 1: ಪ್ರಶ್ನೆಯ ಆಗಮನ

ಉದ್ಯೋಗಿಯೊಬ್ಬರು ಹೀಗೆ ಕೇಳುತ್ತಾರೆ: "ನನಗೆ ಎಷ್ಟು ರಜೆ ದಿನಗಳು ಬಾಕಿ ಇವೆ, ಮತ್ತು ಶುಕ್ರವಾರ ರಜೆಯನ್ನು ಬುಕ್ ಮಾಡಬಹುದೇ?" Guardrails ಮೊದಲು ಈ ವಿನಂತಿಯನ್ನು ಅನುಮತಿಸಲಾಗಿದೆಯೇ ಮತ್ತು ಆ ವ್ಯಕ್ತಿಯು ಸೈನ್ ಇನ್ ಆಗಿದ್ದಾರೆಯೇ ಎಂದು ಪರಿಶೀಲಿಸುತ್ತವೆ.

ಹಂತ 2: Agent ಯೋಜನೆ ರೂಪಿಸುತ್ತದೆ

ಏಜೆಂಟ್‌ಗೆ ಎರಡು ವಿಷಯಗಳು ಬೇಕಾಗುತ್ತವೆ ಎಂದು ಅದು ನಿರ್ಧರಿಸುತ್ತದೆ: ರಜೆ ನೀತಿ ಮತ್ತು ಉದ್ಯೋಗಿಯ ರಜೆ ಬಾಕಿ, ಮತ್ತು ನಂತರ ಬುಕಿಂಗ್.

ಹಂತ 3: Retrieval

RAG ರಜೆ ನೀತಿಗಾಗಿ vector database ನಲ್ಲಿ ಹುಡುಕುತ್ತದೆ ಮತ್ತು ಸಂಬಂಧಿತ ಪ್ಯಾರಾಗ್ರಾಫ್‌ಗಳನ್ನು LLM ಗೆ ರವಾನಿಸುತ್ತದೆ.

ಹಂತ 4: MCP ಮೂಲಕ ಪರಿಕರಗಳು

ರಜೆ ಬಾಕಿಯನ್ನು ಓದಲು ಮತ್ತು ರಜೆ ವಿನಂತಿಯ ಕರಡನ್ನು ಸಿದ್ಧಪಡಿಸಲು agent ತನ್ನ MCP server ಮೂಲಕ HR ವ್ಯವಸ್ಥೆಯನ್ನು ಸಂಪರ್ಕಿಸುತ್ತದೆ.

ಹಂತ 5: ಕ್ರಮ ಕೈಗೊಳ್ಳುವ ಮುನ್ನ ಸುರಕ್ಷತೆ

ವಿನಂತಿಯನ್ನು ಸಲ್ಲಿಸುವ ಮೊದಲು ದೃಢೀಕರಿಸಲು guardrail ಉದ್ಯೋಗಿಯನ್ನು ಕೇಳುತ್ತದೆ.

ಹಂತ 6: ಉತ್ತರ

ನೀತಿಯನ್ನು ಉಲ್ಲೇಖಿಸಿ ಮತ್ತು ಬುಕಿಂಗ್ ಅನ್ನು ದೃಢೀಕರಿಸಿ LLM ಒಂದು ಸಣ್ಣ, ಸ್ಪಷ್ಟವಾದ ಉತ್ತರವನ್ನು ಬರೆಯುತ್ತದೆ.

ಹಂತ 7: ಮೌಲ್ಯಮಾಪನ ಮಾಡುವುದು

ಸಂಭಾಷಣೆಯನ್ನು ಲಾಗ್ ಮಾಡಲಾಗುತ್ತದೆ, ಮತ್ತು ನೀತಿಗಳು ಬದಲಾದಂತೆ ಉತ್ತರಗಳು ಸರಿಯಾಗಿರುವುದನ್ನು ಖಚಿತಪಡಿಸಿಕೊಳ್ಳಲು ತಂಡದ evals ಇಂತಹ ಪ್ರಶ್ನೆಗಳನ್ನು ನಿಯಮಿತವಾಗಿ ಪರೀಕ್ಷಿಸುತ್ತವೆ.

ಉಪಸಂಹಾರ

LLM ಗಮನ ಸೆಳೆಯುತ್ತದೆ, ಆದರೆ ಅದು ಮೆಷಿನ್ ರೂಮ್‌ನ ಕೇವಲ ಒಂದು ಭಾಗವಷ್ಟೇ. ನೈಜ ಜಗತ್ತಿನ ಫಲಿತಾಂಶಗಳು ಸಂಪೂರ್ಣ ಸೆಟ್‌ನಿಂದ ಬರುತ್ತವೆ: ಯೋಚಿಸಲು ಮತ್ತು ಬರೆಯಲು LLM, ಸರಿಯಾದ ಸಂಗತಿಗಳನ್ನು ತರಲು RAG ಮತ್ತು ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್, ಕಾರ್ಯನಿರ್ವಹಿಸಲು ಒಂದು ಏಜೆಂಟ್, ಪರಿಕರಗಳನ್ನು ಪ್ರಮಾಣಿತ ರೀತಿಯಲ್ಲಿ ಸಂಪರ್ಕಿಸಲು MCP, ಸುರಕ್ಷಿತವಾಗಿರಿಸಲು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು, ಮತ್ತು ಅದು ಕೆಲಸ ಮಾಡುತ್ತದೆ ಎಂದು ಸಾಬೀತುಪಡಿಸಲು ಇವಾಲ್‌ಗಳು. ನೀವು AI ಯೋಜನೆಯನ್ನು ರೂಪಿಸುತ್ತಿದ್ದರೆ, ಈ ಏಳರಲ್ಲಿ ನೀವು ಈಗಾಗಲೇ ಯಾವುದನ್ನು ಹೊಂದಿದ್ದೀರಿ ಮತ್ತು ಯಾವುದರ ಅಗತ್ಯ ತಮಗೆ ಬೀಳುವುದಿಲ್ಲ ಎಂದು ನೀವು ಸದ್ದಿಲ್ಲದೆ ಆಶಿಸುತ್ತಿದ್ದೀರಿ ಎಂಬುದನ್ನು ಪರಿಶೀಲಿಸಿ.

ಅನುಕೂಲಗಳು

  • ಉತ್ತರಗಳು ಮಾಡೆಲ್‌ನ ಮೆಮೊರಿಯ ಬದಲಿಗೆ ನಿಮ್ಮ ಸ್ವಂತ, ಪ್ರಸ್ತುತ ದಾಖಲೆಗಳಿಂದ ಬರುತ್ತವೆ.
  • ಏಜೆಂಟ್‌ಗಳು ಮತ್ತು MCP ಕೇವಲ ಸಲಹೆ ನೀಡುವುದಷ್ಟೇ ಅಲ್ಲದೆ, ನೈಜ ಕಾರ್ಯಗಳನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು AI ಗೆ ಅನುವು ಮಾಡಿಕೊಡುತ್ತವೆ.
  • MCP ಯಂತಹ ಹಂಚಿಕೆಯ ಮಾನದಂಡವು ಕಸ್ಟಮ್ ಇಂಟಿಗ್ರೇಷನ್‌ಗಳ ಸಂಖ್ಯೆಯನ್ನು ಕಡಿಮೆ ಮಾಡುತ್ತದೆ.
  • ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು AI ಗೆ ಹೆಚ್ಚಿನ ಜವಾಬ್ದಾರಿಯನ್ನು ಸುರಕ್ಷಿತವಾಗಿ ನೀಡಲು ಸಾಧ್ಯವಾಗಿಸುತ್ತವೆ.
  • ಇವಾಲ್‌ಗಳು "ಇದು ಸರಿಯಾಗಿದೆ ಎಂದು ತೋರುತ್ತದೆ" ಎಂಬುದನ್ನು ಕಾಲಾನಂತರದಲ್ಲಿ ನೀವು ಟ್ರ್ಯಾಕ್ ಮಾಡಬಹುದಾದ ಸಂಖ್ಯೆಗಳಾಗಿ ಪರಿವರ್ತಿಸುತ್ತವೆ.

ಅನನುಕೂಲಗಳು

  • ಏಳು ಭಾಗಗಳೆಂದರೆ ನಿರ್ಮಿಸಲು, ಹೋಸ್ಟ್ ಮಾಡಲು ಮತ್ತು ನಿರ್ವಹಿಸಲು ಹೆಚ್ಚಿನ ಚಲಿಸುವ ಘಟಕಗಳು ಇರುತ್ತವೆ ಎಂದರ್ಥ.
  • ಮರುಪಡೆಯುವಿಕೆಯು ಅದರ ಹಿಂದಿರುವ ದಾಖಲೆಗಳಷ್ಟೇ ಉತ್ತಮವಾಗಿರುತ್ತದೆ; ಹಳೆಯ ಫೈಲ್‌ಗಳು ಹಳೆಯ ಉತ್ತರಗಳನ್ನೇ ನೀಡುತ್ತವೆ.
  • ಮಿತಿಗಳು ಸಡಿಲವಾಗಿದ್ದರೆ, ಕಾರ್ಯನಿರ್ವಹಿಸಬಲ್ಲ ಏಜೆಂಟ್‌ಗಳು ದುಬಾರಿ ತಪ್ಪುಗಳನ್ನು ಸಹ ಮಾಡಬಹುದು.
  • ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ತುಂಬಾ ಕಟ್ಟುನಿಟ್ಟಾಗಿದ್ದು, ಸಮಂಜಸವಾದ ವಿನಂತಿಗಳನ್ನು ನಿರ್ಬಂಧಿಸಬಹುದು.
  • ಉತ್ತಮ ಇವಾಲ್ ಸೆಟ್‌ಗಳನ್ನು ಬರೆಯಲು ಮತ್ತು ಅಪ್‌ಡೇಟ್ ಆಗಿರಿಸಲು ನಿಜವಾದ ಪರಿಶ್ರಮ ಬೇಕಾಗುತ್ತದೆ.

ಎಚ್ಚರಿಕೆ

ಈ ಲೇಖನವು ಶೈಕ್ಷಣಿಕ ಉದ್ದೇಶದ್ದಾಗಿದೆ ಮತ್ತು ವೇಗವಾಗಿ ಬದಲಾಗುತ್ತಿರುವ ಕ್ಷೇತ್ರವನ್ನು ಸರಳಗೊಳಿಸುತ್ತದೆ. ಕಂಪನಿಯ ಹೆಸರು Acme ಮತ್ತು ಹಂತ-ಹಂತದ ವರ್ಕ್‌ಫ್ಲೋ ಕೇವಲ ಪ್ಲೇಸ್‌ಹೋಲ್ಡರ್‌ಗಳಾಗಿದ್ದು, ನೈಜ ವ್ಯವಸ್ಥೆಯಲ್ಲ. ಹೆಸರಿಸಲಾದ ಉದಾಹರಣೆಗಳನ್ನು (Klarna, Morgan Stanley, Spotify, GitHub, Anthropic, OpenAI, Air Canada ಮತ್ತು DPD) ಅವುಗಳನ್ನು ಬಿಡುಗಡೆ ಮಾಡಿದ ಸಮಯದಲ್ಲಿನ ಸಾರ್ವಜನಿಕ ಪ್ರಕಟಣೆಗಳು ಮತ್ತು ಸುದ್ದಿ ವರದಿಗಳಿಂದ ಸಾರಾಂಶಗೊಳಿಸಲಾಗಿದೆ; ಅಂಕಿಅಂಶಗಳು ಕಂಪನಿಗಳು ವರದಿ ಮಾಡಿದಂತೆಯೇ ಇವೆ, ಮತ್ತು ಅಂದಿನಿಂದ ಉತ್ಪನ್ನಗಳು ಹಾಗೂ ನೀತಿಗಳು ಬದಲಾಗಿರಬಹುದು. ಪರಿಕರಗಳು, ಮಾನದಂಡಗಳು ಮತ್ತು ಅತ್ಯುತ್ತಮ ಅಭ್ಯಾಸಗಳು ತ್ವರಿತವಾಗಿ ಬದಲಾಗುತ್ತವೆ, ಆದ್ದರಿಂದ ನೈಜ ನಿರ್ಧಾರಗಳಿಗಾಗಿ ಅಥವಾ ನೈಜ ಗ್ರಾಹಕರ ಡೇಟಾಗಾಗಿ ಯಾವುದೇ AI ವ್ಯವಸ್ಥೆಯನ್ನು ಅವಲಂಬಿಸುವ ಮೊದಲು ಪ್ರಸ್ತುತ ದಾಖಲಾತಿಯನ್ನು ಪರಿಶೀಲಿಸಿ ಮತ್ತು ಎಚ್ಚರಿಕೆಯಿಂದ ಪರೀಕ್ಷಿಸಿ, ವಿಶೇಷವಾಗಿ ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಮತ್ತು ಏಜೆಂಟ್ ಅನುಮತಿಗಳನ್ನು.

ಪದೇ ಪದೇ ಕೇಳಲಾಗುವ ಪ್ರಶ್ನೆಗಳು

  • LLM ಮತ್ತು AI ಏಜೆಂಟ್ ನಡುವಿನ ವ್ಯತ್ಯಾಸವೇನು? — LLM ಎಂಬುದು ಪಠ್ಯವನ್ನು ಓದುವ ಮತ್ತು ಬರೆಯುವ ಮಾಡೆಲ್ ಆಗಿದೆ; ಏಜೆಂಟ್ ಎಂಬುದು ಮಾಡೆಲ್‌ನ ಸುತ್ತಲಿನ ಒಂದು ಲೂಪ್ ಆಗಿದ್ದು, ಅದು ಹಂತಗಳನ್ನು ಯೋಜಿಸುತ್ತದೆ ಮತ್ತು ಕಾರ್ಯವನ್ನು ಪೂರ್ಣಗೊಳಿಸಲು ಪರಿಕರಗಳನ್ನು ಬಳಸುತ್ತದೆ.
  • AI ನಲ್ಲಿ RAG ಎಂದರೇನು? — Retrieval-augmented generation: ಸಿಸ್ಟಮ್ ಮೊದಲು ಸಂಬಂಧಿತ ದಾಖಲೆಗಳನ್ನು ಹುಡುಕುತ್ತದೆ ಮತ್ತು ಅವುಗಳನ್ನು ಮಾಡೆಲ್‌ಗೆ ನೀಡುತ್ತದೆ, ಇದರಿಂದಾಗಿ ಉತ್ತರಗಳು ನೈಜ, ಪ್ರಸ್ತುತ ಮಾಹಿತಿಯ ಮೇಲೆ ಆಧಾರಿತವಾಗಿರುತ್ತವೆ.
  • AI ವ್ಯವಸ್ಥೆಗಳಿಗೆ ವೆಕ್ಟರ್ ಡೇಟಾಬೇಸ್ ಏಕೆ ಬೇಕು? — ಇದು ಪಠ್ಯವನ್ನು ಎಂಬೆಡಿಂಗ್ಸ್‌ಗಳಾಗಿ ಸಂಗ್ರಹಿಸುತ್ತದೆ, ಇದರಿಂದಾಗಿ ಸಿಸ್ಟಮ್ ಅರ್ಥದ ಆಧಾರದ ಮೇಲೆ ಪಠ್ಯಭಾಗಗಳನ್ನು ಹುಡುಕಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ, ಇದು RAG ಹುಡುಕಾಟವನ್ನು ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವಂತೆ ಮಾಡುತ್ತದೆ.
  • AI ನಲ್ಲಿ MCP ಎಂದರೇನು? — Model Context Protocol ಎಂಬುದು ಒಂದೇ ಸಾಮಾನ್ಯ ಇಂಟರ್ಫೇಸ್ ಮೂಲಕ AI ಅಪ್ಲಿಕೇಶನ್‌ಗಳನ್ನು ಪರಿಕರಗಳು ಮತ್ತು ಡೇಟಾ ಮೂಲಗಳಿಗೆ ಸಂಪರ್ಕಿಸಲು ಇರುವ ಮುಕ್ತ ಮಾನದಂಡವಾಗಿದೆ.
  • AI ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳು ಎಂದರೇನು? — ಅವು ಮಾಡೆಲ್‌ನ ಸುತ್ತಲಿನ ನಿಯಮಗಳು ಮತ್ತು ಪರಿಶೀಲನೆಗಳಾಗಿದ್ದು, ಹಾನಿಕಾರಕ ಇನ್‌ಪುಟ್‌ಗಳನ್ನು ನಿರ್ಬಂಧಿಸುತ್ತವೆ, ಅಸುರಕ್ಷಿತ ಔಟ್‌ಪುಟ್‌ಗಳನ್ನು ಪತ್ತೆಮಾಡುತ್ತವೆ ಮತ್ತು ಅಪಾಯಕಾರಿ ಕ್ರಮಗಳನ್ನು ಮಿತಿಗೊಳಿಸುತ್ತವೆ.
  • AI ನಲ್ಲಿ ಇವಾಲ್‌ಗಳು ಎಂದರೇನು? — ಇವಾಲ್‌ಗಳು ಪುನರಾವರ್ತಿಸಬಹುದಾದ ಪರೀಕ್ಷೆಗಳಾಗಿದ್ದು, ಅನೇಕ ಮಾದರಿ ಪ್ರಶ್ನೆಗಳಲ್ಲಿ AI ನೀಡುವ ಉತ್ತರಗಳು ಸರಿಯಾಗಿವೆಯೇ, ಸುರಕ್ಷಿತವಾಗಿವೆಯೇ, ವೇಗವಾಗಿವೆಯೇ ಮತ್ತು ಕೈಗೆಟುಕುವಂತಿವೇ ಎಂದು ಅಳೆಯುತ್ತವೆ.
  • Air Canada ಚಾಟ್‌ಬಾಟ್ ಪ್ರಕರಣದಲ್ಲಿ ಏನಾಯಿತು? — ತನ್ನ ವೆಬ್‌ಸೈಟ್ ಚಾಟ್‌ಬಾಟ್ ಪ್ರಯಾಣಿಕರೊಬ್ಬರಿಗೆ ನೀಡಿದ ತಪ್ಪು ಮರುಪಾವತಿ ಮಾಹಿತಿಗೆ ವಿಮಾನಯಾನ ಸಂಸ್ಥೆಯೇ ಜವಾಬ್ದಾರಿಯಾಗಿದೆ ಎಂದು ನ್ಯಾಯಮಂಡಳಿಯೊಂದು 2024 ರಲ್ಲಿ ತೀರ್ಪು ನೀಡಿತು; ಕಂಪನಿಗಳು ತಮ್ಮ AI ಹೇಳುವ ಮಾತುಗಳಿಗೆ ತಾವೇ ಜವಾಬ್ದಾರರಾಗಿರುತ್ತಾರೆ ಎಂಬುದಕ್ಕೆ ಇದು ಸ್ಪಷ್ಟ ಜ್ಞಾಪನೆಯಾಗಿದೆ.
  • ನನಗೆ ಎಲ್ಲಾ ಏಳು ಬಿಲ್ಡಿಂಗ್ ಬ್ಲಾಕ್‌ಗಳು ಬೇಕೇ? — ಸರಳವಾದ ಚಾಟ್‌ಬಾಟ್‌ಗೆ ಕೇವಲ LLM ಮತ್ತು ಗಾರ್ಡ್‌ರೈಲ್‌ಗಳಷ್ಟೇ ಬೇಕಾಗಬಹುದು, ಆದರೆ ಕಂಪನಿಯ ಡೇಟಾದಿಂದ ಉತ್ತರಿಸುವ ಅಥವಾ ಕ್ರಮಗಳನ್ನು ತೆಗೆದುಕೊಳ್ಳುವ ಯಾವುದೇ ಅಸಿಸ್ಟೆಂಟ್‌ಗೆ ಈ ಎಲ್ಲಾ ಏಳರಿಂದಲೂ ಪ್ರಯೋಜನವಾಗುತ್ತದೆ.

ಟ್ಯಾಗ್‌ಗಳು

#artificialintelligence #llm #rag #vectordatabase #aiagents #mcp #aiguardrails #aievals #generativeai #ai2026

Free field guide

Incident Response: First Hour

A calm, evidence-preserving checklist for establishing control, bounding impact, communicating clearly, and containing an incident safely.