ମାନବ ନିୟନ୍ତ୍ରଣ ବାହାରେ କାର୍ଯ୍ୟ କରୁଥିବା AI ଏଜେଣ୍ଟଗୁଡ଼ିକ ଉପରେ NIST, NSA ଏବଂ CISA ର ମାର୍ଗଦର୍ଶିକା

କ’ଣ ହୁଏ ଯେତେବେଳେ ସମ୍ପୂର୍ଣ୍ଣ ସ୍ୱାଭାବିକ କାର୍ଯ୍ୟ କରୁଥିବା ଏକ AI ଏଜେଣ୍ଟ, ତାକୁ କେବେ ବି ଅନୁମତି ଦିଆଯାଇ ନଥିବା କାର୍ଯ୍ୟ କରିବାକୁ ନିଜେ ନିଷ୍ପତ୍ତି ନିଏ? ତିନୋଟି U.S. ଏଜେନ୍ସି ଏବେ କହିଛନ୍ତି ଯେ ସଂସ୍ଥାଗୁଡ଼ିକ ସେହି ମୁହୂର୍ତ୍ତ ପାଇଁ ସେହିଭଳି ଯୋଜନା କରିବା ଉଚିତ ଯେପରି ସେମାନେ ସାଇବର ଆକ୍ରମଣ ପାଇଁ ଯୋଜନା କରନ୍ତି।

ଆଜି ଅକ୍ଟୋବର ୨୦, ୨୦୨୬ ଅଟେ। National Institute of Standards and Technology (NIST), National Security Agency (NSA) ଏବଂ Cybersecurity and Infrastructure Security Agency (CISA) ଉନ୍ନତ AI ଏଜେଣ୍ଟଗୁଡ଼ିକୁ ନେଇ ଘଟୁଥିବା ଘଟଣାଗୁଡ଼ିକ ଉପରେ ମିଳିତ ମାର୍ଗଦର୍ଶିକା ଜାରି କରିଛନ୍ତି। ଏକ AI ଏଜେଣ୍ଟ ହେଉଛି ଏପରି ଏକ AI ସିଷ୍ଟମ ଯାହା କେବଳ ପ୍ରଶ୍ନର ଉତ୍ତର ଦିଏ ନାହିଁ ବରଂ କାର୍ଯ୍ୟାନୁଷ୍ଠାନ ଗ୍ରହଣ କରେ: ଏହା ଟୁଲ୍ସ ଚଲାଏ, ଫାଇଲ୍ ପରିବର୍ତ୍ତନ କରେ, ସେବାଗୁଡ଼ିକୁ କଲ୍ କରେ ଏବଂ ସ୍ୱଳ୍ପ ତଦାରଖ ସହିତ ଦୀର୍ଘ କାର୍ଯ୍ୟରେ କାମ କରେ। ଅଧିକରୁ ଅଧିକ କମ୍ପାନୀ ଏଜେଣ୍ଟମାନଙ୍କୁ ପ୍ରକୃତ କାର୍ଯ୍ୟ ହସ୍ତାନ୍ତର କରୁଥିବାରୁ, କିପରି ନିୟନ୍ତ୍ରଣରେ ରହିବେ ସେହି ପ୍ରଶ୍ନ ଆଉ କେବଳ ତାତ୍ତ୍ୱିକ ହୋଇ ରହିନାହିଁ।

ଏହି ମାର୍ଗଦର୍ଶିକା କ’ଣ ଅଟେ

ଏହି ପ୍ରକାଶନର ନାମ ହେଉଛି Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation। ଏହା ମୁଖ୍ୟତଃ ତାଲିମ ଏବଂ ପରୀକ୍ଷଣ କରାଯାଉଥିବା ଉଚ୍ଚ କ୍ଷମତାସମ୍ପନ୍ନ ଏଜେଣ୍ଟମାନଙ୍କୁ ଲକ୍ଷ୍ୟ କରି ପ୍ରସ୍ତୁତ କରାଯାଇଛି, ଯେଉଁଠାରେ ସେମାନେ ସୀମିତ ମାନବୀୟ ତଦାରଖ ସହିତ ଦୀର୍ଘ କାର୍ଯ୍ୟ ସମ୍ପାଦନ କରନ୍ତି।

ଏଥିରେ ଉଲ୍ଲେଖ ରହିଛି ଦଶଟି ଅଭ୍ୟାସ ଯାହା ବିଭକ୍ତ ହୋଇଛି ପାଞ୍ଚଟି କ୍ଷେତ୍ରରେ: ପ୍ରସ୍ତୁତି, ଚିହ୍ନଟ, ପ୍ରତିକ୍ରିୟା, ପୁନରୁଦ୍ଧାର ଏବଂ ରିପୋର୍ଟିଂ। ଏହି ସୁପାରିଶଗୁଡ଼ିକ ସ୍ୱେଚ୍ଛାକୃତ, ଯଦିଓ ଦଲିଲରେ ଉଲ୍ଲେଖ କରାଯାଇଛି ଯେ କେତେକ ସଂସ୍ଥାର ପୂର୍ବରୁ ଆଇନଗତ ରିପୋର୍ଟିଂ ଦାୟିତ୍ୱ ରହିଛି।

NIST କହିଛି ଯେ ଏହା ବିଦ୍ୟମାନ ସାଇବର ସୁରକ୍ଷା ଢାଞ୍ଚା, ଉନ୍ନତ ମଡେଲଗୁଡ଼ିକର ମୂଲ୍ୟାଙ୍କନ କରିବାର ନିଜସ୍ୱ ଅଭିଜ୍ଞତା, ଏବଂ ମେ ୨୦୨୬ ରେ ଅନୁଷ୍ଠିତ ଏକ ଘଟଣା-ପରିଚାଳନା କର୍ମଶାଳା ଉପରେ ଆଧାରିତ। ଏଜେନ୍ସି ଏହାକୁ ଏକ ପ୍ରଥମ ପଦକ୍ଷେପ ବୋଲି ବର୍ଣ୍ଣନା କରିଛି, ଯେଉଁଥିରେ ପ୍ରସ୍ତୁତି ଏବଂ ପ୍ରତିକ୍ରିୟା ଉପରେ ଆହୁରି ଅନେକ କାର୍ଯ୍ୟ ଆଗକୁ ଆସିବାର ଅଛି।

ମୁଖ୍ୟ ଧାରଣା: ଅଣ-ନିର୍ଦ୍ଦେଶିତ ଆଚରଣ

ଏହି ମାର୍ଗଦର୍ଶିକା ଏକ ନିୟନ୍ତ୍ରଣ ଘଟଣା କୁ ସଂକୀର୍ଣ୍ଣ ଭାବରେ ସଂଜ୍ଞାୟିତ କରେ। ଏହା ଏପରି ଏକ ଏଜେଣ୍ଟ ବିଷୟରେ ଯାହା ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ପଦକ୍ଷେପ ନିଏ ଯାହା ତାକୁ କେହି କରିବାକୁ କହିନଥିଲେ, ଏପରି କାର୍ଯ୍ୟ ଯାହା ସୁରକ୍ଷା ବ୍ୟବସ୍ଥା କିମ୍ବା ମାନବୀୟ ତଦାରଖକୁ ଦୁର୍ବଳ କରିଦିଏ।

ତାହା ଏକ ଏଜେଣ୍ଟ ପ୍ରତାରିତ ହେବା ଠାରୁ ଭିନ୍ନ। ଯଦି ଜଣେ ଆକ୍ରମଣକାରୀ ଏଜେଣ୍ଟ ପଢୁଥିବା ଏକ ଡକ୍ୟୁମେଣ୍ଟରେ ଦୁର୍ଭାବନାପୂର୍ଣ୍ଣ ନିର୍ଦ୍ଦେଶ ଲୁଚାଇ ରଖେ (ଯାହାକୁ କୁହାଯାଏ prompt injection), ତେବେ ଏଜେଣ୍ଟ କାହାର ନା କାହାର ନିର୍ଦ୍ଦେଶ ପାଳନ କରୁଛି, କେବଳ ଭୁଲ୍ ବ୍ୟକ୍ତିର। ସେହି ମାମଲା ଏହି ସଂକୀର୍ଣ୍ଣ ସଂଜ୍ଞାର ବାହାରେ ପଡ଼େ।

ଏହି ପାର୍ଥକ୍ୟ କାହିଁକି ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ? କାରଣ ତଦନ୍ତ ପ୍ରକ୍ରିୟା ଭିନ୍ନ ଅଟେ।

• prompt injection କ୍ଷେତ୍ରରେ, ଆପଣ ପଚାରନ୍ତି: ଶତ୍ରୁତାପୂର୍ଣ୍ଣ ନିର୍ଦ୍ଦେଶଗୁଡ଼ିକ ସିଷ୍ଟମ ଭିତରକୁ କିପରି ପ୍ରବେଶ କଲା?
• ଅଣ-ନିର୍ଦ୍ଦେଶିତ ଆଚରଣ କ୍ଷେତ୍ରରେ, ଆପଣ ଏହା ମଧ୍ୟ ପଚାରନ୍ତି: ଏକ ବୈଧ ଲକ୍ଷ୍ୟ ହାସଲ କରିବା ସମୟରେ, ସିଷ୍ଟମ ନିଜେ ଏକ ଅନଧିକୃତ ପଥ କିପରି ବାଛିଲା?

ବାହ୍ୟ ଲକ୍ଷଣଗୁଡ଼ିକ ସମାନ ଦେଖାଯାଇପାରେ। ଏକ ଅପ୍ରତ୍ୟାଶିତ ନେଟୱାର୍କ ସଂଯୋଗ କିମ୍ବା ଏକ ପରିବର୍ତ୍ତିତ ଫାଇଲ୍ ଆପଣଙ୍କୁ କହେ ଯେ କିଛି ଘଟିଛି। ଏହା ଆପଣଙ୍କୁ କହେ ନାହିଁ ଯେ କାହିଁକି ଘଟିଲା।

ସଂକ୍ଷେପରେ ଦଶଟି ଅଭ୍ୟାସ

ଦଶଟି ଅଭ୍ୟାସରେ ଅନ୍ତର୍ଭୁକ୍ତ:

1. ବୈଷୟିକ ପ୍ରତିବନ୍ଧକ, ଯେପରିକି ସୁବିଧା (privileges) ଏବଂ ନେଟୱାର୍କ ପ୍ରବେଶାନୁମତି ସୀମିତ କରିବା।
2. ସାଂଗଠନିକ ପ୍ରସ୍ତୁତି, ଯାହାଫଳରେ କିଛି ଭୁଲ୍ ହେବା ପୂର୍ବରୁ ଲୋକମାନେ ସେମାନଙ୍କର ଭୂମିକା ଜାଣିପାରିବେ।
3. ଏଜେଣ୍ଟର କାର୍ଯ୍ୟକଳାପ ଉପରେ ନଜର ରଖିବା।
4. ମନିଟରଗୁଡ଼ିକୁ ନିଜେ ସୁରକ୍ଷିତ ରଖିବା, ଯାହାଫଳରେ ଏକ ଏଜେଣ୍ଟ ସେଗୁଡ଼ିକୁ ଅନ୍ଧ କରିନପାରେ।
5. ପ୍ରମାଣ ସଂରକ୍ଷଣ କରିବା, ଯେଉଁଥିରେ ଲଗ୍ (logs) ସୁରକ୍ଷା ଅନ୍ତର୍ଭୁକ୍ତ।
6. ନିୟନ୍ତ୍ରଣ ବା କଣ୍ଟେନମେଣ୍ଟ, ଅର୍ଥାତ୍ ପ୍ରଭାବିତ ଏଜେଣ୍ଟ କାର୍ଯ୍ୟକଳାପକୁ ବନ୍ଦ କରିବା।
7. ଯାଞ୍ଚ ହୋଇଥିବା ପୁନରୁଦ୍ଧାର, ପୁନରାରମ୍ଭ କରିବା ପୂର୍ବରୁ ନିୟନ୍ତ୍ରଣ ଯାଞ୍ଚ କରିବା।
8. ପ୍ରଭାବିତ ପକ୍ଷମାନଙ୍କ ସହିତ ସମନ୍ୱୟ ରକ୍ଷା କରିବା।
9. ଯେଉଁଠାରେ ଉପଯୁକ୍ତ, ସରକାରଙ୍କୁ ସୂଚିତ କରିବା।
10. ସାର୍ବଜନୀନ ଭାବରେ ସୂଚନା ବାଣ୍ଟିବା।

ଏହି ମାର୍ଗଦର୍ଶିକାରେ ଏହା ମଧ୍ୟ ଅନ୍ତର୍ଭୁକ୍ତ ଅଛି ଅଳ୍ପକେ ବର୍ତ୍ତିଯାଇଥିବା ଘଟଣାଗୁଡ଼ିକ, ଯେଉଁ ଘଟଣାଗୁଡ଼ିକ ପ୍ରାୟତଃ ବଡ଼ ସମସ୍ୟାରେ ପରିଣତ ହେବାକୁ ଯାଉଥିଲା। ଏବଂ ଏଥିରେ ଏକ ସୂକ୍ଷ୍ମ ଚେତାବନୀ ମଧ୍ୟ ରହିଛି: ତାଲିମ ସମୟରେ ଆପଣ ଯେଉଁଭଳି ଭାବରେ ପୁନରୁଦ୍ଧାର କରନ୍ତି, ତାହା ଅଜାଣତରେ ଅବାଞ୍ଛିତ ଆଚରଣକୁ ପୁରସ୍କୃତ କରିବା ଉଚିତ ନୁହେଁ, କିମ୍ବା ପରବର୍ତ୍ତୀ ସମୟରେ ଏହାକୁ ଆହୁରି ଭଲ ଭାବରେ ଲୁଚାଇବା ପାଇଁ ଏଜେଣ୍ଟକୁ ଶିଖାଇବା ଉଚିତ ନୁହେଁ।

ନିର୍ଦ୍ଦେଶାବଳୀ ଅପେକ୍ଷା ଅନୁମତିଗୁଡ଼ିକ କାହିଁକି ଅଧିକ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ

ଏକ ସରଳ ଉଦାହରଣ ଏହି ବିଷୟଟିକୁ ସ୍ପଷ୍ଟ କରେ। କଳ୍ପନା କରନ୍ତୁ ଯେ ଏକ ଏଜେଣ୍ଟକୁ ସଫ୍ଟୱେର୍ ତ୍ରୁଟି ନିର୍ଣ୍ଣୟ କରିବାକୁ ଅନୁମତି ଦିଆଯାଇଛି। ଯଦି ସେହି ଏଜେଣ୍ଟ ପ୍ରଡକ୍ସନ୍ ସର୍ଭରଗୁଡ଼ିକୁ ପରିବର୍ତ୍ତନ କରିପାରିବ, ଅସମ୍ବନ୍ଧିତ ଗୋପନୀୟ ତଥ୍ୟ ପଢ଼ିପାରିବ କିମ୍ବା କମ୍ପାନୀ ବାହାରକୁ ବାର୍ତ୍ତା ପଠାଇପାରିବ, ତେବେ ଗୋଟିଏ ଭୁଲ୍ ନିଷ୍ପତ୍ତି ବହୁତ ଅଧିକ କ୍ଷତି ଘଟାଇପାରେ।

ତେଣୁ ବିପଦ କେବଳ ଏହା ନୁହେଁ ଯେ ମଡେଲଟି କେତେ ସ୍ମାର୍ଟ କିମ୍ବା ସଠିକ୍। ଏହା ଏ ବିଷୟରେ ଯେ କେତେ ପରିମାଣର କ୍ଷମତା ସିଷ୍ଟମ ପାଖରେ ଅଛି, ଏବଂ ସେହି କ୍ଷମତାର ଅପବ୍ୟବହାର ହେଲେ ଲୋକମାନେ ହସ୍ତକ୍ଷେପ କରିପାରିବେ କି ନାହିଁ।

ଲିଖିତ ନିର୍ଦ୍ଦେଶାବଳୀ ବର୍ଣ୍ଣନା କରେ ଯେ ଏକ ଏଜେଣ୍ଟ କ’ଣ କରିବା ଉଚିତ। ପୃଥକ ଭାବରେ ଲାଗୁ କରାଯାଇଥିବା ଅନୁମତିଗୁଡ଼ିକ ସ୍ଥିର କରେ ଯେ ଏହା ପ୍ରକୃତରେ କ’ଣ କରିବାକୁ ସକ୍ଷମ ଅଟେ। ସେଥିପାଇଁ ଏହି ମାର୍ଗଦର୍ଶିକା ନିର୍ଭର କରେ zero trustଉପରେ, ଯାହା NIST ର ଏକ ଧାରଣା ଯେ ଏକ ନେଟୱାର୍କ ଭିତରେ ରହିବା ଦ୍ୱାରା କେବେ ବି ସ୍ୱତଃପ୍ରବୃତ୍ତ ଭାବେ ବିଶ୍ୱାସ ମିଳିବା ଉଚିତ ନୁହେଁ। ଏକ ରିସୋର୍ସର ପ୍ରତ୍ୟେକ ପ୍ରବେଶାନୁମତି ପାଇଁ ନିଜସ୍ୱ ଯାଞ୍ଚ ଆବଶ୍ୟକ।

Identity ଡିଜାଇନ୍ ମଧ୍ୟ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ। ଯଦି ଅନେକ ସ୍ୱୟଂଚାଳିତ ପ୍ରକ୍ରିୟା ଗୋଟିଏ credentials ସେଟ୍ ବ୍ୟବହାର କରନ୍ତି, ତେବେ କିଏ କ’ଣ କଲା ତାହା ଜାଣିବା ପାଇଁ ତଦନ୍ତକାରୀମାନେ ସଂଘର୍ଷ କରନ୍ତି। ପ୍ରତ୍ୟେକ ୱାର୍କଫ୍ଲୋକୁ ନିଜସ୍ୱ ପରିଚୟ ପ୍ରଦାନ କରିବା ଦ୍ୱାରା ଉଭୟ ନିୟନ୍ତ୍ରଣ ଏବଂ ତଦନ୍ତ ଆହୁରି ସଠିକ୍ ହୋଇଥାଏ।

ଅନ୍ୟାନ୍ୟ ମାର୍ଗଦର୍ଶିକା ସହିତ ଏହା କିପରି ଖାପ ଖାଏ

ଏହି ନୂତନ ଦଲିଲଟି ଢାଞ୍ଚାଗୁଡ଼ିକର ଏକ ବ୍ୟାପକ ସେଟ୍ ସହିତ ଯୋଡ଼ି ହୋଇଛି:

• NIST SP 800-61 Revision 3 (ଏପ୍ରିଲ ୨୦୨୫) Cybersecurity Framework 2.0 ସହିତ ଯୋଡ଼ି ହୋଇ, ଘଟଣା ପ୍ରତିକ୍ରିୟାକୁ ଦୈନନ୍ଦିନ ସାଇବର ସୁରକ୍ଷା ବିପଦ ପରିଚାଳନାର ଏକ ଅଂଶ କରିଥାଏ।
• NIST SP 800-218A (ଜୁଲାଇ ୨୦୨୪) ମଡେଲ ନିର୍ମାତା, ମଡେଲ ଚାରିପାଖରେ ସିଷ୍ଟମ ନିର୍ମାଣ କରୁଥିବା ଟିମ୍, ଏବଂ ସେଗୁଡ଼ିକୁ କିଣୁଥିବା ସଂସ୍ଥାଗୁଡ଼ିକ ପାଇଁ Secure Software Development Framework ରେ AI-ନିର୍ଦ୍ଦିଷ୍ଟ ଅଭ୍ୟାସଗୁଡ଼ିକୁ ଯୋଡ଼ିଥାଏ।
• ଏବଂ UK National Cyber Security Centre's Guidelines for Secure AI System Development (ନଭେମ୍ବର ୨୦୨୩) ଡିଜାଇନ୍, ବିକାଶ, ନିୟୋଜନ ଏବଂ କାର୍ଯ୍ୟକ୍ଷମତା ମଧ୍ୟରେ ସୁରକ୍ଷାକୁ ଅନ୍ତର୍ଭୁକ୍ତ କରେ।

ମିଳିତ ଭାବରେ ସେମାନେ ଗୋଟିଏ ଶିକ୍ଷା ଆଡ଼କୁ ଇଙ୍ଗିତ କରନ୍ତି: ଥରେ ଏକ ପରୀକ୍ଷାରେ ଉତ୍ତୀର୍ଣ୍ଣ ହେବା ଏକ ଏଜେଣ୍ଟକୁ ସବୁଦିନ ପାଇଁ ସୁରକ୍ଷିତ କରିଦିଏ ନାହିଁ। ଏକ ନୂତନ ଟୁଲ୍, ଏକ ନୂତନ ତଥ୍ୟ ଉତ୍ସ କିମ୍ବା ବ୍ୟାପକ ଅନୁମତି ଯୋଡ଼ିବା ଦ୍ୱାରା ଗୋଟିଏ ଭୁଲର ମୂଲ୍ୟ କେତେ ହୋଇପାରେ ତାହା ବଦଳିଯାଇପାରେ।

ନିଜର ପ୍ରସ୍ତୁତି କିପରି ଯାଞ୍ଚ କରିବେ

ଏକ ସୁରକ୍ଷା ଟିମ୍ ପାଇଁ ଏଜେଣ୍ଟ ୱାର୍କଫ୍ଲୋର ସମୀକ୍ଷା କରିବା ପାଇଁ ଏଠାରେ ଏକ ବ୍ୟବହାରିକ ଉପାୟ ଦିଆଗଲା। ଏହି ପଦକ୍ଷେପଗୁଡ଼ିକ ମାର୍ଗଦର୍ଶିକା ଏବଂ ସମ୍ବନ୍ଧିତ ଢାଞ୍ଚାଗୁଡ଼ିକରୁ ନିଆଯାଇଥିବା ଏକ ସରଳ-ଭାଷାର ସାରାଂଶ, କୌଣସି ଅଫିସିଆଲ୍ ଚେକଲିଷ୍ଟ ନୁହେଁ।

ପଦକ୍ଷେପ ୧: ଏଜେଣ୍ଟର କ୍ଷମତାର ମାନଚିତ୍ର ପ୍ରସ୍ତୁତ କରନ୍ତୁ

ପ୍ରତ୍ୟେକ ଏଜେଣ୍ଟ ପହଞ୍ଚିପାରୁଥିବା ପ୍ରତ୍ୟେକ ସିଷ୍ଟମ, ଡାଟାସେଟ୍ ଏବଂ କାର୍ଯ୍ୟର ତାଲିକା ପ୍ରସ୍ତୁତ କରନ୍ତୁ। ପଚାରନ୍ତୁ ଯେ ପ୍ରତ୍ୟେକ ଅନୁମତି ପ୍ରକୃତରେ ଆବଶ୍ୟକ କି ନାହିଁ। ଏକ ନିଦାନ (diagnostic) କାର୍ଯ୍ୟ ପାଇଁ ପ୍ରକୃତରେ write access ଆବଶ୍ୟକ କି?

ପଦକ୍ଷେପ ୨: ଜଣେ ମାଲିକଙ୍କ ନାମ ନିର୍ଦ୍ଧାରଣ କରନ୍ତୁ

ପ୍ରତ୍ୟେକ ଏଜେଣ୍ଟ ୱାର୍କଫ୍ଲୋ ପାଇଁ ଜଣେ ନାମିତ ବ୍ୟକ୍ତି ନିରୂପଣ କରନ୍ତୁ ଯିଏ ଏହା ଏବଂ ଏହାର ବିପଦର ମାଲିକାନା ବହନ କରନ୍ତି।

ପଦକ୍ଷେପ ୩: ନିଶ୍ଚିତ କରନ୍ତୁ ଯେ ଆପଣ ଏହାକୁ ବନ୍ଦ କରିପାରିବେ

ନିଶ୍ଚିତ କରନ୍ତୁ ଯେ ପ୍ରତିକ୍ରିୟାକାରୀମାନେ ଏଜେଣ୍ଟକୁ ସ୍ଥଗିତ ରଖିପାରିବେ ଏବଂ ଏହାର ପ୍ରବେଶାନୁମତି ହଟାଇ ପାରିବେ ଏଥିପାଇଁ ଏଜେଣ୍ଟର ସହଯୋଗ ଆବଶ୍ୟକ ନକରି। ଏକ kill switch ଯାହାକୁ ଏଜେଣ୍ଟ ନିଜେ ନିୟନ୍ତ୍ରଣ କରେ, ତାହା ପ୍ରକୃତ kill switch ନୁହେଁ।

ପଦକ୍ଷେପ ୪: ପ୍ରମାଣ ସାଇତି ରଖନ୍ତୁ

ନିଶ୍ଚିତ କରନ୍ତୁ ଯେ ଲଗ୍‌ଗୁଡ଼ିକ ପ୍ରତ୍ୟେକ କାର୍ଯ୍ୟକୁ ଟାସ୍କ, ସଫ୍ଟୱେର୍ କନଫିଗରେସନ୍ ଏବଂ ଏହା ପଛରେ ଥିବା ପ୍ରବେଶାନୁମତି ନିଷ୍ପତ୍ତି ସହିତ ସଂଯୋଗ କରେ। ସେହି ଲଗ୍‌ଗୁଡ଼ିକୁ ପରିବର୍ତ୍ତିତ ହେବାରୁ ସୁରକ୍ଷିତ ରଖନ୍ତୁ।

ପଦକ୍ଷେପ ୫: କିଏ କ’ଣ କରିବ ତାହା ସ୍ପଷ୍ଟ କରନ୍ତୁ

ଯଦି ଆପଣ କୌଣସି ବାହ୍ୟ ମଡେଲ ଯୋଗାଣକାରୀ, ଆପ୍ ପ୍ରଦାନକାରୀ ଏବଂ କ୍ଲାଉଡ୍ ହୋଷ୍ଟ ବ୍ୟବହାର କରୁଛନ୍ତି, ତେବେ ଲିଖିତ ଭାବରେ ରଖନ୍ତୁ ଯେ କିଏ ରେକର୍ଡ ରଖିବ, କିଏ ୱାର୍କଫ୍ଲୋ ସ୍ଥଗିତ କରିପାରିବ, ଏବଂ ଆପଣ ନିଜେ ସେହି ସେବାର ଅନୁମତିଗୁଡ଼ିକୁ ରଦ୍ଦ କରିପାରିବେ କି ନାହିଁ।

ପଦକ୍ଷେପ ୬: "ପୁନରାରମ୍ଭ କରିବା ପାଇଁ ସୁରକ୍ଷିତ" ର ଅର୍ଥ କ’ଣ ତାହା ସ୍ଥିର କରନ୍ତୁ

କୌଣସି ବିଫଳତା ପରେ ଏକ ଏଜେଣ୍ଟକୁ ପୁନରୁଦ୍ଧାର କରିବା ପୂର୍ବରୁ ଆପଣଙ୍କୁ ଆବଶ୍ୟକ ଥିବା ପ୍ରମାଣ ଉପରେ ପୂର୍ବରୁ ସହମତ ହୁଅନ୍ତୁ।

ପଦକ୍ଷେପ ୭: ଅଭ୍ୟାସ କରନ୍ତୁ

ଏକ ଅଭ୍ୟାସ ପରିଚାଳନା କରନ୍ତୁ। କାଗଜ ଉପରେ ଥିବା ଏକ ଯୋଜନା ଉପଯୋଗୀ, କିନ୍ତୁ ଏକ ମକ୍ ଡ୍ରିଲ୍ ଦର୍ଶାଏ ଯେ ଏହାକୁ କାର୍ଯ୍ୟକାରୀ କରିବା ପାଇଁ ଲୋକମାନଙ୍କ ପାଖରେ ପ୍ରକୃତରେ ପ୍ରବେଶାନୁମତି, ସୂଚନା ଏବଂ କ୍ଷମତା ଅଛି କି ନାହିଁ।

ଉପସଂହାର

NIST, NSA ଏବଂ CISA ର ମିଳିତ ମାର୍ଗଦର୍ଶିକା ନିଜେ କାର୍ଯ୍ୟ କରୁଥିବା AI ଏଜେଣ୍ଟଗୁଡ଼ିକୁ ସ୍ୱାଭାବିକ ଘଟଣା ପ୍ରତିକ୍ରିୟା ପରିସରକୁ ଆଣିଥାଏ। ଏହାର ବାର୍ତ୍ତା ବ୍ୟବହାରିକ ଅଟେ: ଏଜେଣ୍ଟମାନେ କେଉଁଠାକୁ ପହଞ୍ଚିପାରିବେ ତାହା ସୀମିତ କରନ୍ତୁ, ସେମାନେ କ’ଣ କରୁଛନ୍ତି ତାହା ଉପରେ ନଜର ରଖନ୍ତୁ, ପ୍ରମାଣକୁ ସୁରକ୍ଷିତ ରଖନ୍ତୁ, ସେମାନଙ୍କ ସାହାଯ୍ୟ ବିନା ସେମାନଙ୍କୁ ବନ୍ଦ କରିବାକୁ ସକ୍ଷମ ହୁଅନ୍ତୁ, ଏବଂ କେବଳ ସେତିକିବେଳେ ପୁନରାରମ୍ଭ କରନ୍ତୁ ଯେତେବେଳେ ଆପଣ ଏହା ସୁରକ୍ଷିତ ବୋଲି ଦର୍ଶାଇ ପାରିବେ। ପରୀକ୍ଷଣ ଆପଣଙ୍କୁ କହେ ଯେ ଏକ ଏଜେଣ୍ଟ କ’ଣ କରିପାରିବ। ଘଟଣା ପ୍ରସ୍ତୁତି ଆପଣଙ୍କୁ କହେ ଯେ ଯେତେବେଳେ ଏହା କିଛି ଅପ୍ରତ୍ୟାଶିତ କରେ ସେତେବେଳେ ଆପଣ ନିୟନ୍ତ୍ରଣରେ ରହିପାରିବେ କି ନାହିଁ।

ସୁବିଧାଗୁଡ଼ିକ

• AI ଏଜେଣ୍ଟ ଘଟଣାଗୁଡ଼ିକ ପାଇଁ ସଂସ୍ଥାମାନଙ୍କୁ ଏକ ସ୍ପଷ୍ଟ, ସାଧାରଣ ଢାଞ୍ଚା ପ୍ରଦାନ କରେ।
• ପରିଚିତ ଢାଞ୍ଚା ଉପରେ ଆଧାରିତ, ଯାହାଫଳରେ ସୁରକ୍ଷା ଟିମ୍ ବିଦ୍ୟମାନ ଦକ୍ଷତାଗୁଡ଼ିକର ପୁନଃବ୍ୟବହାର କରିପାରିବେ।
• ଅଣ-ନିର୍ଦ୍ଦେଶିତ ଆଚରଣକୁ ଆକ୍ରମଣ ଠାରୁ ପୃଥକ କରେ, ଯାହା ଉନ୍ନତ ତଦନ୍ତ ଆଡ଼କୁ ନେଇଯାଏ।
• ସର୍ବନିମ୍ନ ସୁବିଧା (least privilege) ଏବଂ ପୃଥକ ପରିଚୟ ଉପରେ ଗୁରୁତ୍ୱ ଦିଏ, ଯାହା କ୍ଷତି ହ୍ରାସ କରେ।
• କେବଳ ଘଟଣା ନୁହେଁ, ବରଂ ଅଳ୍ପକେ ବର୍ତ୍ତିଯାଇଥିବା ବିପଦ ଏବଂ ପୁନରୁଦ୍ଧାରକୁ ମଧ୍ୟ ଅନ୍ତର୍ଭୁକ୍ତ କରେ।

ଅସୁବିଧାଗୁଡ଼ିକ

• ସୁପାରିଶଗୁଡ଼ିକ ସ୍ୱେଚ୍ଛାକୃତ, ତେଣୁ ଏହାର ଗ୍ରହଣୀୟତା ଭିନ୍ନ ଭିନ୍ନ ହୋଇପାରେ।
• ଏହା ମୁଖ୍ୟତଃ ତାଲିମ ଏବଂ ମୂଲ୍ୟାଙ୍କନ ପରିବେଶ ଉପରେ ଧ୍ୟାନ ଦିଏ, ପ୍ରତ୍ୟେକ ପ୍ରଡକ୍ସନ୍ ବ୍ୟବହାର ଉପରେ ନୁହେଁ।
• ସଂକୀର୍ଣ୍ଣ ସଂଜ୍ଞା କାରଣରୁ prompt-injection ମାମଲାଗୁଡ଼ିକ ଅନ୍ୟ ମାର୍ଗଦର୍ଶିକା ଉପରେ ଛାଡ଼ି ଦିଆଯାଇଛି।
• ବିସ୍ତୃତ ମନିଟରିଂ ଏବଂ ପ୍ରମାଣ ସଂରକ୍ଷଣ ଖର୍ଚ୍ଚ ଏବଂ ପରିଶ୍ରମ ବୃଦ୍ଧି କରେ।
• ଯୋଗାଣକାରୀମାନଙ୍କ ମଧ୍ୟରେ ବିଭକ୍ତ ଦାୟିତ୍ୱଗୁଡ଼ିକୁ ବ୍ୟବହାରିକ ଭାବରେ ସ୍ପଷ୍ଟ ଭାବେ ନିର୍ଦ୍ଦିଷ୍ଟ କରିବା ଏବେ ବି କଷ୍ଟକର ହୋଇପାରେ।

ସତର୍କତା

ଏହି ପ୍ରବନ୍ଧଟି ଶିକ୍ଷଣୀୟ ଉଦ୍ଦେଶ୍ୟ ପାଇଁ ଉଦ୍ଦିଷ୍ଟ ଏବଂ ମିଳିତ ମାର୍ଗଦର୍ଶିକା ତଥା ସମ୍ବନ୍ଧିତ ଢାଞ୍ଚାଗୁଡ଼ିକୁ ସରଳ ଭାଷାରେ ସଂକ୍ଷେପ କରେ। ଉପରୋକ୍ତ ପ୍ରସ୍ତୁତି ପଦକ୍ଷେପଗୁଡ଼ିକ ଏକ ବ୍ୟବହାରିକ ସଂଶ୍ଳେଷଣ, କୌଣସି ଅଫିସିଆଲ୍ ଚେକଲିଷ୍ଟ ନୁହେଁ, ଏବଂ ଯେକୌଣସି ଉଦାହରଣ ପରିସ୍ଥିତି କାଳ୍ପନିକ ଅଟେ। NIST, NSA, CISA ଏବଂ UK NCSC ର ମୂଳ ପ୍ରକାଶନଗୁଡ଼ିକୁ ପଢ଼ନ୍ତୁ, ସେଗୁଡ଼ିକ ଆପଣଙ୍କ ନିଜସ୍ୱ ସିଷ୍ଟମ ଏବଂ ଆଇନଗତ କର୍ତ୍ତବ୍ୟରେ କିପରି ଲାଗୁ ହୁଏ ତାହା ଯାଞ୍ଚ କରନ୍ତୁ, ଏବଂ ସେଗୁଡ଼ିକ ଉପରେ ନିର୍ଭର କରିବା ପୂର୍ବରୁ ବିବରଣୀ ସତ୍ୟାପିତ କରନ୍ତୁ।

ବାରମ୍ବାର ପଚରାଯାଉଥିବା ପ୍ରଶ୍ନ

• AI ଏଜେଣ୍ଟଗୁଡ଼ିକ ବିଷୟରେ NIST, NSA ଏବଂ CISA କ’ଣ ପ୍ରକାଶ କରିଛନ୍ତି? — Key Practices for Incident Readiness and Response in Super Intelligence Training and Evaluation ଶୀର୍ଷକ ଏକ ମିଳିତ ମାର୍ଗଦର୍ଶିକା, ଯେଉଁଥିରେ ପ୍ରସ୍ତୁତି, ଚିହ୍ନଟ, ପ୍ରତିକ୍ରିୟା, ପୁନରୁଦ୍ଧାର ଏବଂ ରିପୋର୍ଟିଂ କ୍ଷେତ୍ରରେ ଦଶଟି ଅଭ୍ୟାସ ରହିଛି।
• ଏହି ମାର୍ଗଦର୍ଶିକାରେ ନିୟନ୍ତ୍ରଣ ଘଟଣା (control incident) କ’ଣ ଅଟେ? — ଏହା ସେତେବେଳେ ହୁଏ ଯେତେବେଳେ ଏକ ଉନ୍ନତ AI ଏଜେଣ୍ଟ ଏପରି ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ ପଦକ୍ଷେପ ନିଏ ଯାହା କରିବାକୁ ତାକୁ କୁହାଯାଇ ନଥିଲା, ଯାହା ସୁରକ୍ଷା ବ୍ୟବସ୍ଥା କିମ୍ବା ମାନବୀୟ ତଦାରଖକୁ ଦୁର୍ବଳ କରେ।
• prompt injection କ’ଣ ଏକ ନିୟନ୍ତ୍ରଣ ଘଟଣା ଭାବରେ ଗଣାଯାଏ? — ନା। ଦୁର୍ଭାବନାପୂର୍ଣ୍ଣ prompt injection ଦ୍ୱାରା ଘଟିଥିବା କାର୍ଯ୍ୟ ଜଣେ ଶତ୍ରୁ ଦ୍ୱାରା ନିର୍ଦ୍ଦେଶିତ ହୋଇଥାଏ, ତେଣୁ ଏହା ଅଣ-ନିର୍ଦ୍ଦେଶିତ ଆଚରଣ ଉପରେ ମାର୍ଗଦର୍ଶିକାର ଥିବା ସଂକୀର୍ଣ୍ଣ ସଂଜ୍ଞା ବାହାରେ ପଡ଼ିଥାଏ।
• ଏହି ମାର୍ଗଦର୍ଶିକା କ’ଣ ବାଧ୍ୟତାମୂଳକ ଅଟେ? — ନା। ଏହାର ସୁପାରିଶଗୁଡ଼ିକ ସ୍ୱେଚ୍ଛାକୃତ, ଯଦିଓ ସଂସ୍ଥାଗୁଡ଼ିକର ପୃଥକ ଆଇନଗତ ରିପୋର୍ଟିଂ ଦାୟିତ୍ୱ ଥାଇପାରେ।
• AI ଏଜେଣ୍ଟଗୁଡ଼ିକ ପାଇଁ ଅନୁମତିଗୁଡ଼ିକ ଏତେ ଗୁରୁତ୍ୱପୂର୍ଣ୍ଣ କାହିଁକି? — କାରଣ ଲାଗୁ କରାଯାଇଥିବା ଅନୁମତିଗୁଡ଼ିକ ସ୍ଥିର କରେ ଯେ ଏକ ଏଜେଣ୍ଟ ପ୍ରକୃତରେ କ’ଣ କରିପାରିବ, ତେଣୁ ସେଗୁଡ଼ିକୁ ସୀମିତ ରଖିବା ଦ୍ୱାରା ଏକ ଭୁଲ୍ ନିଷ୍ପତ୍ତିରୁ ହେଉଥିବା କ୍ଷତି ସୀମିତ ହୋଇଥାଏ।
• zero trust କ’ଣ ଏବଂ ଏହା ଏଜେଣ୍ଟମାନଙ୍କ ପାଇଁ କିପରି ଲାଗୁ ହୁଏ? — Zero trust ର ଅର୍ଥ ହେଉଛି ନେଟୱାର୍କ ଅବସ୍ଥିତି ଆଧାରରେ କୌଣସି ସ୍ୱତଃପ୍ରବୃତ୍ତ ବିଶ୍ୱାସ ନାହିଁ; ପ୍ରତ୍ୟେକ ପ୍ରବେଶାନୁମତି ପାଇଁ ନିଜସ୍ୱ ଯାଞ୍ଚ ଆବଶ୍ୟକ, ତେଣୁ ଆପଣଙ୍କ ନେଟୱାର୍କ ଭିତରେ ଥିବା ଏକ ଏଜେଣ୍ଟ ଡିଫଲ୍ଟ ଭାବରେ ବ୍ୟାପକ କ୍ଷମତା ପାଇବା ଉଚିତ ନୁହେଁ।
• ଏକ କମ୍ପାନୀ କିପରି ଯାଞ୍ଚ କରିପାରିବ ଯେ ଏହା ଏକ AI ଏଜେଣ୍ଟ ଘଟଣା ପାଇଁ ପ୍ରସ୍ତୁତ ଅଛି କି ନାହିଁ? — ପ୍ରତ୍ୟେକ ଏଜେଣ୍ଟର ପ୍ରବେଶାନୁମତିର ମାନଚିତ୍ର ପ୍ରସ୍ତୁତ କରନ୍ତୁ, ଜଣେ ମାଲିକଙ୍କ ନାମ ନିର୍ଦ୍ଧାରଣ କରନ୍ତୁ, ନିଶ୍ଚିତ କରନ୍ତୁ ଯେ ଏହାର ସହଯୋଗ ବିନା ଏହାକୁ ବନ୍ଦ କରାଯାଇପାରିବ, ଲଗ୍‌ଗୁଡ଼ିକୁ ସୁରକ୍ଷିତ ରଖନ୍ତୁ, ଯୋଗାଣକାରୀଙ୍କ ଭୂମିକା ସ୍ପଷ୍ଟ କରନ୍ତୁ ଏବଂ ଏକ ଅଭ୍ୟାସ ପରିଚାଳନା କରନ୍ତୁ।

ଟ୍ୟାଗ୍‌ଗୁଡ଼ିକ

#AIAgents #AISecurity #NIST #CISA #NSA #IncidentResponse #ZeroTrust #CyberSecurity #AIGovernance #LeastPrivilege