କୃତ୍ରିମ ବୁଦ୍ଧିମତ୍ତା ବା AIର ଦ୍ରୁତ ବିକାଶ ମଧ୍ୟରେ ଏହାର ଭବିଷ୍ୟତ ବିପଦକୁ ନେଇ ବିଶେଷଜ୍ଞଙ୍କ ଚିନ୍ତା ବଢ଼ିବାରେ ଲାଗିଛି। OpenAIର ସୁରକ୍ଷା ଗବେଷକ ମାର୍କସ୍ ୱିଲିୟମ୍ସ ଚେତାବନୀ ଦେଇ କହିଛନ୍ତି ଯେ, AI ଉପରେ ନିୟମ ଲାଗୁ ନହେଲେ କିମ୍ବା ବଡ଼ AI ଲ୍ୟାବଗୁଡ଼ିକ ମିଳିତ ଭାବେ AI ବିକାଶର ଗତି କମାଇବା ପାଇଁ ପଦକ୍ଷେପ ନନେଲେ, ଆଗାମୀ କିଛି ବର୍ଷ ମଧ୍ୟରେ ମାନବଜାତି ପାଇଁ ବଡ଼ ବିପଦ ସୃଷ୍ଟି ହୋଇପାରେ।

ସୋସିଆଲ ମିଡିଆ ପ୍ଲାଟଫର୍ମ Xରେ ୱିଲିୟମ୍ସ କହିଛନ୍ତି ଯେ AI ମଡେଲଗୁଡ଼ିକ ପାଇଁ ନିୟମ ଆବଶ୍ୟକ। ଏହା ସହିତ AI କମ୍ପାନୀଗୁଡ଼ିକ ମିଳିତ ଭାବେ ‘ଫ୍ରଣ୍ଟିଅର AI’ର ବିକାଶକୁ ଧୀର କରିବା ଦିଗରେ କାମ କରିବା ଦରକାର ବୋଲି ସେ ମତ ଦେଇଛନ୍ତି।

ଏକ ମତାମତର ଉତ୍ତରରେ ୱିଲିୟମ୍ସ କହିଛନ୍ତି ଯେ, ଆଗାମୀ ୩ ବର୍ଷ ମଧ୍ୟରେ ମାନବ ବିଲୁପ୍ତି ଘଟିବାର ସମ୍ଭାବନା ୭୦ ପ୍ରତିଶତ ହୋଇପାରେ। ତେବେ ସେ ଏହା ମଧ୍ୟ କହିଛନ୍ତି ଯେ ନିୟମ କିମ୍ବା AI ବିକାଶରେ ଧୀରଗତି ଆଣିବା ସମ୍ଭବ।

OpenAIରେ ଯୋଗ ଦେଲେ ପଲ୍ କ୍ରିଷ୍ଟିଆନୋ

ଏହି ସମୟରେ ଆମେରିକା ସରକାରଙ୍କ ପୂର୍ବତନ ପ୍ରଯୁକ୍ତି ପରାମର୍ଶଦାତା ପଲ୍ କ୍ରିଷ୍ଟିଆନୋ OpenAIର ନନ୍-ପ୍ରଫିଟ୍ ଫାଉଣ୍ଡେସନ୍ ବୋର୍ଡ ଏବଂ Safety and Security Committeeରେ ଯୋଗ ଦେଇଛନ୍ତି।

କ୍ରିଷ୍ଟିଆନୋଙ୍କ ମତରେ, AI କ୍ଷମତାର ଦ୍ରୁତ ବୃଦ୍ଧି ଯଦି ଜାରି ରହେ, ତେବେ ନିକଟ ଭବିଷ୍ୟତରେ AI ଉପରୁ ମାନବ ନିୟନ୍ତ୍ରଣ ହରାଇବାର ଗମ୍ଭୀର ବିପଦ ରହିଛି। ତାଙ୍କ କହିବା ଅନୁଯାୟୀ, ଯଦି ଅଧିକ ଶକ୍ତିଶାଳୀ AI ବା superintelligenceକୁ ମାନବ ହିତ ସହିତ ଠିକ୍ ଭାବେ ସମନ୍ୱୟ ନକରି ବିକଶିତ କରାଯାଏ, ତେବେ ମାନବଜାତି ଏହା ଉପରେ ସ୍ଥାୟୀ ଭାବେ ନିୟନ୍ତ୍ରଣ ହରାଇପାରେ ଏବଂ ଏହାର ପରିଣାମରେ ବହୁ ଲୋକଙ୍କ ମୃତ୍ୟୁ ଘଟିପାରେ।

କ୍ରିଷ୍ଟିଆନୋ ଏହା ମଧ୍ୟ କହିଛନ୍ତି ଯେ AI ଶିଳ୍ପ ସମେତ OpenAI ମଧ୍ୟ ଏହି ବିପଦକୁ ଗ୍ରହଣଯୋଗ୍ୟ ସ୍ତରକୁ କମାଇବା ପାଇଁ ବର୍ତ୍ତମାନ ଯଥେଷ୍ଟ ଗତିରେ ଆଗକୁ ବଢ଼ୁନାହିଁ।

ଏହା ପୂର୍ବରୁ OpenAIର ମୁଖ୍ୟ ବୈଜ୍ଞାନିକ ଜାକୁବ ପାଚୋକି ମଧ୍ୟ AIର ଭବିଷ୍ୟତକୁ ନେଇ ‘ଅତ୍ୟଧିକ ସତର୍କତା’ ଅବଲମ୍ବନ କରିବାକୁ କହିଥିଲେ। ସେ AIକୁ ଏକ ‘ଏଲିଏନ୍ ମାଇଣ୍ଡ’ ସହ ତୁଳନା କରିଥିଲେ।

ଅନ୍ୟପଟେ Anthropicର alignment science lead ଇଭାନ୍ ହ୍ୟୁବିଙ୍ଗର ମଧ୍ୟ AI ଯୋଗୁଁ ଆଗାମୀ ଦଶନ୍ଧିରେ ସମସ୍ତ ମାନବଙ୍କ ମୃତ୍ୟୁ ଘଟିବାର ୧୦ ପ୍ରତିଶତରୁ ଅଧିକ ସମ୍ଭାବନା ଥିବା କହିଥିଲେ।

AI ଏଜେଣ୍ଟଙ୍କ ସହ ଜଡ଼ିତ କିଛି ଘଟଣା ପରେ ଏହି ଚିନ୍ତା ଆହୁରି ବଢ଼ିଛି। ପୂର୍ବରୁ କିଛି OpenAI AI ଏଜେଣ୍ଟ Hugging Faceକୁ ହ୍ୟାକ୍ କରିବାକୁ ଚେଷ୍ଟା କରିଥିବା ଘଟଣା ସାମ୍ନାକୁ ଆସିଥିଲା। ଏହା ବ୍ୟତୀତ ହଜାର ହଜାର OpenAI ଏଜେଣ୍ଟ ଏକ ଜର୍ମାନ ୱେବସାଇଟ୍କୁ ମେସେଜ୍ ବୋର୍ଡ ଭାବେ ବ୍ୟବହାର କରିଥିବା ମଧ୍ୟ ଜଣାପଡ଼ିଥିଲା।

ସେହିପରି Anthropic ଜାନୁଆରୀର ଏକ ଘଟଣାରେ କହିଥିଲା ଯେ, ତାଙ୍କ Claude ମଡେଲର ଏକ ଟ୍ରେନିଂ ଭର୍ସନ୍କୁ ଏକ କାର୍ଯ୍ୟ ବନ୍ଦ କରିବା ସମ୍ଭବ ନହେବା ପରେ ତୃତୀୟ ପକ୍ଷ ସିଷ୍ଟମ୍ରେ ପ୍ରବେଶ କରିଥିଲା। ଏହି ଘଟଣାଗୁଡ଼ିକ AI ସୁରକ୍ଷା ଓ ନିୟନ୍ତ୍ରଣକୁ ନେଇ ଚାଲିଥିବା ଚର୍ଚ୍ଚାକୁ ଆହୁରି ତୀବ୍ର କରିଛି।