ನಿಯಂತ್ರಣ ತಪ್ಪುತ್ತಿದೆಯೇ AI? ಅಮೆರಿಕ ಸರ್ಕಾರಕ್ಕೆ ಜಾಗತಿಕ AI ಸಂಸ್ಥೆಗಳ ತುರ್ತು ಮನವಿಯೇನು?

ಇದೀಗ OpenAI, Anthropic, Google, Meta ಮತ್ತು ಇತರ ತಂತ್ರಜ್ಞಾನ ಕಂಪೆನಿಗಳ 1,100ಕ್ಕೂ ಹೆಚ್ಚು ಉದ್ಯೋಗಿಗಳು AI ಮಾಡೆಲ್‌ಗಳ ತ್ವರಿತ ಅಭಿವೃದ್ಧಿಯ ವಿರುದ್ಧ ಸಹಿ ಹಾಕಿದ ಪತ್ರವನ್ನು ಅಮೆರಿಕದ ಸರ್ಕಾರಕ್ಕೆ ಕಳುಹಿಸಿದ್ದಾರೆ.

AI ಮಾಡೆಲ್‌ ಗಳು ವೇಗವಾಗಿ ಪ್ರಗತಿ ಸಾಧಿಸುತ್ತಿವೆ. ಇಂದು Claude Fable ಮತ್ತು GPT-5.6 ನಂತಹ ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್‌ ಗಳು ಎಷ್ಟು ಅದ್ಭುತವಾಗಿವೆ ಎಂದರೆ ಅವುಗಳ ದುರುಪಯೋಗದ ಆತಂಕ ಕಾಡುತ್ತಿದೆ. ಕಂಪೆನಿಗಳು AI ಮಾಡೆಲ್‌ %ಗಳ ಮೇಲೆ ಕೋಟ್ಯಂತರ ಹಣ ಸುರಿಯುತ್ತಿರುವ ಸಂದರ್ಭದಲ್ಲಿ ಅಭಿವೃದ್ಧಿಯ ದರವೂ ನಿಧಾನವಾಗಲು ಸಾಧ್ಯವಿಲ್ಲ. ಇದೀಗ OpenAI, Anthropic, Google, Meta ಮತ್ತು ಇತರ ತಂತ್ರಜ್ಞಾನ ಕಂಪೆನಿಗಳ 1,100ಕ್ಕೂ ಹೆಚ್ಚು ಉದ್ಯೋಗಿಗಳು AI ಮಾಡೆಲ್‌ಗಳ ತ್ವರಿತ ಅಭಿವೃದ್ಧಿಯ ವಿರುದ್ಧ ಸಹಿ ಹಾಕಿದ ಪತ್ರವನ್ನು ಅಮೆರಿಕದ ಸರ್ಕಾರಕ್ಕೆ ಕಳುಹಿಸಿದ್ದಾರೆ.

AI ಕಂಪೆನಿಗಳ ಹಿರಿಯ ಸಿಬ್ಬಂದಿ ಸದಸ್ಯರು ಮತ್ತು ಸಹ-ಸಂಸ್ಥಾಪಕರು ಸೇರಿದಂತೆ ಉದ್ಯೋಗಿಗಳು “ಹೆಚ್ಚು ಅತ್ಯಾಧುನಿಕ AI ಮಾಡೆಲ್‌ ಗಳನ್ನು ಹೇಗೆ ಅಭಿವೃದ್ಧಿಪಡಿಸಲಾಗುತ್ತಿದೆ” ಎಂಬುದರ ಕುರಿತು ಟ್ರಂಪ್ ಆಡಳಿತವು ಏನಾದರೂ ಮಾಡಬೇಕೆಂದು ಬಯಸುತ್ತಾರೆ. ಅಥವಾ AI ಸುತ್ತ ಗವರ್ನೆನ್ಸ್ ಟೂಲ್‌ಗಳನ್ನು (governance tools) ಸೃಷ್ಟಿಸುವ ಅಗತ್ಯವನ್ನು ಅವರು ಮುಂದಿಟ್ಟಿದ್ದಾರೆ. ಈಗಿನ ಸ್ಥಿತಿಯಲ್ಲಿ ಅಭಿವೃದ್ಧಿ ಮುಂದುವರಿದಲ್ಲಿ AI ನಿಯಂತ್ರಣ ತಪ್ಪಬಹುದು ಎಂದು ಪತ್ರದಲ್ಲಿ ಆತಂಕ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ.

ಸ್ವಯಂಚಾಲಿತ AI ಅಭಿವೃದ್ಧಿಯ ಬಗ್ಗೆ ಮುಖ್ಯವಾಗಿ ಕಾಳಜಿ ವ್ಯಕ್ತಪಡಿಸಲಾಗಿದೆ. ಅಂದರೆ, Claude ನಂತಹ AI ಮಾಡೆಲ್ ಮುಂದಿನ ದಿನಗಳಲ್ಲಿ ಮಾನವನ ಅಗತ್ಯವಿಲ್ಲದೆ ತನ್ನ ಭವಿಷ್ಯದ ಆವೃತ್ತಿಗಳಿಗೆ (future versions) ತರಬೇತಿ ನೀಡಲು ಸಾಧ್ಯವಾಗುತ್ತದೆ.

AI ಮಾನವ ತಿಳುವಳಿಕೆ ಮೀರಬಹುದು!

“AI ಸಂಶೋಧನೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತಗೊಳಿಸುವ ಸಮೀಪಕ್ಕೆ ಬರಲಾಗಿದೆ ಎಂದು ವಿಶ್ವದ ಪ್ರಮುಖ AI ಕಂಪೆನಿಗಳು ನಂಬುತ್ತವೆ” ಎಂದು ಹೇಳಿಕೆಯಲ್ಲಿ ತಿಳಿಸಲಾಗಿದೆ. “ಇದರಿಂದ AI ಪ್ರಗತಿ ಎಷ್ಟು ವೇಗಗೊಳ್ಳುತ್ತದೆ ಎಂದು ನಿಖರವಾಗಿ ಊಹಿಸುವುದು ಕಷ್ಟ. ಆದರೆ ಇಂತಹ ಸಾಮರ್ಥ್ಯ ಅಭಿವೃದ್ಧಿಯು ‘ಫಲಿತಾಂಶದ ವ್ಯವಸ್ಥೆಗಳನ್ನು ಅರ್ಥಮಾಡಿಕೊಳ್ಳುವ’ ಅಥವಾ ‘ನಿಯಂತ್ರಿಸುವ’ ನಮ್ಮ ಸಾಮರ್ಥ್ಯಕ್ಕಿಂತ ವೇಗವಾಗಿ ಬೆಳೆಯುವ ನಿಜವಾದ ಅಪಾಯವಿದೆ” ಎಂದು ಹೇಳಿಕೆಯಲ್ಲಿ ತಿಳಿಸಲಾಗಿದೆ.

“AI ತನ್ನನ್ನು ತಾನು ತರಬೇತಿ ಮಾಡಿಕೊಳ್ಳುವ ಶಕ್ತಿಯನ್ನು ಪಡೆದುಕೊಂಡಲ್ಲಿ ಮಾನವರು ಅದನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡಲು ಸಾಧ್ಯವಾಗದಂತೆ ಮೀರಿ ಹೋಗಬಹುದು” ಎಂದು ಸಂಶೋಧಕರು ಮತ್ತು ವಿಜ್ಞಾನಿಗಳು ಚಿಂತಿತರಾಗಿದ್ದಾರೆ.

ಮುಖ್ಯವಾಗಿ ಕಂಪೆನಿಗಳು ಹೆಚ್ಚು ಅತ್ಯಾಧುನಿಕ ಮಾಡೆಲ್‌ಗಳನ್ನು ನಿರ್ಮಿಸಲು ಸ್ಪರ್ಧೆಗೆ ಬಿದ್ದಿರುವ ಬಗ್ಗೆ ಕಳವಳ ವ್ಯಕ್ತವಾಗಿದೆ. ಏಕೆಂದರೆ ಇಂತಹ ಸಂದರ್ಭದಲ್ಲಿ ಅಪಾಯವನ್ನು ಅರಿತುಕೊಳ್ಳುವುದು ಮತ್ತು ಭದ್ರತಾ ಕ್ರಮಗಳನ್ನು ನಿಯೋಜಿಸಲು ಸಾಕಷ್ಟು ಸಮಯ ಇರುವುದಿಲ್ಲ. ಪ್ರತಿ ಕಂಪೆನಿ ಮತ್ತು ದೇಶ ಏಕಪಕ್ಷೀಯವಾಗಿ ಅಭಿವೃದ್ಧಿಯನ್ನು ನಿಧಾನಗೊಳಿಸದಂತೆ ತೀವ್ರ ಸ್ಪರ್ಧಾತ್ಮಕ ಒತ್ತಡವನ್ನು ಎದುರಿಸುತ್ತಿದೆ. ಇಂದು ಜಗತ್ತು ಫ್ರಂಟಿಯರ್ ಮಾಡೆಲ್‌ ಗಳ ಪ್ರಗತಿಯನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ತಡೆಯಲು (ಅಥವಾ ಏರಿಸಲು ಅಥವಾ ವೇಗದ ದರ ನಿಯಂತ್ರಿಸಲು) ಅಗತ್ಯವಿರುವ ‘ತಾಂತ್ರಿಕ’ ಮತ್ತು ‘ಆಡಳಿತಾತ್ಮಕ’ ಸಾಧನಗಳನ್ನು ಹೊಂದಿಲ್ಲ” ಎಂದು ಹೇಳಿಕೆ ತಿಳಿಸಿದೆ.

ಇತ್ತೀಚೆಗೆ OpenAI ತನ್ನ ಎರಡು ಅತ್ಯಂತ ಅತ್ಯಾಧುನಿಕ AI ಮಾಡೆಲ್‌ ಗಳನ್ನು ಪರೀಕ್ಷಿಸುತ್ತಿದ್ದಾಗ ಉತ್ತರ ಕಂಡುಕೊಳ್ಳುವ ಭರದಲ್ಲಿ ಅವು ನಿಯಂತ್ರಣ ಕಳೆದುಕೊಂಡು ಅಮೆರಿಕದ ಕಂಪೆನಿ ಹಗಿಂಗ್ ಫೇಸ್‌ ನ ಡೇಟಾಬೇಸ್ ಅನ್ನು ಹ್ಯಾಕ್ ಮಾಡಲು ಪ್ರಯತ್ನಿಸಿರುವುದು ಇಂತಹ ಕಳವಳಕ್ಕೆ ಮುಖ್ಯ ಕಾರಣ. ಹಗಿಂಗ್ ಫೇಸ್‌ ನ ಉದ್ಯೋಗಿಗಳು ಚೀನಾ ಮಾಡೆಲ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು ಈ ಸೈಬರ್ ದಾಳಿಯಿಂದ ರಕ್ಷಣೆ ಪಡೆದಿದ್ದರು.

ಸರ್ಕಾರದ ಹಸ್ತಕ್ಷೇಪ ಆಶಿಸಿರುವ AI ಕಾರ್ಮಿಕರು

AI ಮಾಡೆಲ್‌ ಗಳನ್ನು ಎಷ್ಟು ವೇಗವಾಗಿ ಅಭಿವೃದ್ಧಿಪಡಿಸಬಹುದು ಎಂಬುದನ್ನು ನಿಯಂತ್ರಿಸುವುದೇ ಪರಿಹಾರವಾಗಿದೆ ಎಂದು ಪತ್ರದಲ್ಲಿ ಹೇಳಲಾಗಿದೆ. ಇದಕ್ಕಾಗಿ ಟ್ರಂಪ್ ಆಡಳಿತ ಮುಂದಾಳತ್ವ ವಹಿಸಬೇಕು ಎಂದು ಸಹಿ ಹಾಕಿದ ಸಂಶೋಧಕರು ಮತ್ತು ವಿಜ್ಞಾನಿಗಳು ಬಯಸಿದ್ದಾರೆ.

“ಸ್ವಯಂಚಾಲಿತ AI ಅಭಿವೃದ್ಧಿಯ ಫ್ರಂಟಿಯರ್ (ನಿರ್ಮಿಸಲಾಗುವ ಹೊಸ ಮತ್ತು ಅತಿ ಪ್ರಬಲ AI ಮಾಡೆಲ್‌ಗಳು) ಅನ್ನು ಉದ್ದೇಶಪೂರ್ವಕವಾಗಿ ನಿಧಾನಗೊಳಿಸಲು ಅಗತ್ಯವಿರುವ ತಾಂತ್ರಿಕ ಮತ್ತು ಆಡಳಿತ ಸಾಧನಗಳನ್ನು ಅಭಿವೃದ್ಧಿಪಡಿಸುವ ಅಂತಾರಾಷ್ಟ್ರೀಯ ಪ್ರಯತ್ನವನ್ನು ಅಮೆರಿಕದ ಸರ್ಕಾರ ಬೆಂಬಲಿಸಬೇಕು” ಎಂದು ವಿನಂತಿಸಲಾಗಿದೆ.

ಅಂದರೆ, ಶ್ವೇತಭವನವು ಮಧ್ಯಪ್ರವೇಶಿಸಿ AI ಮಾಡೆಲ್‌ಗಳ ಅಭಿವೃದ್ಧಿಯ ವೇಗವನ್ನು ನಿಯಂತ್ರಿಸಬೇಕು ಎಂದು ಅತಿದೊಡ್ಡ AI ಪ್ರಯೋಗಾಲಯಗಳ ಈ ಉದ್ಯೋಗಿಗಳು ಬಯಸಿದ್ದಾರೆ.

ಜುಲೈ 29ರೊಳಗೆ ಈ ಪತ್ರಕ್ಕೆ 1,100 ಉದ್ಯೋಗಿಗಳು ಸಹಿ ಹಾಕಿದ್ದರು. ಸಹಿ ಹಾಕಿದವರಲ್ಲಿ Anthropic ಸಿಇಒ ಡೇರಿಯೊ ಅಮೋಡೆ, Claude Code ಮುಖ್ಯಸ್ಥ ಬೋರಿಸ್ ಚೆರ್ನಿ, OpenAI ಸಹ-ಸಂಸ್ಥಾಪಕರಾದ ಜಾನ್ ಶುಲ್ಮನ್ ಮತ್ತು ವೊಜ್ಸಿಕ್ ಜರೆಂಬಾ ಹಾಗೂ Metaದ AI ಸಂಶೋಧನೆಯ ಉಪಾಧ್ಯಕ್ಷ ಡಾನ್ ಸಾಂಗ್ ಸೇರಿದಂತೆ ಅನೇಕ ಪ್ರಮುಖ ಸಹಿದಾರರು ಸೇರಿದ್ದಾರೆ. Google, Thinking Machines, Mistral, Microsoft ಸೇರಿದಂತೆ ಇತರ ಕಂಪೆನಿಗಳ ಹಿರಿಯ ವ್ಯಕ್ತಿಗಳು ಸಹ ಹೇಳಿಕೆಗೆ ಸಹಿ ಹಾಕಿದ್ದಾರೆ.

AI ಈಗಾಗಲೇ ತನ್ನದೇ ಆದ ಸಾಮರ್ಥ್ಯದಲ್ಲಿ ಅಭಿವೃದ್ಧಿ ಹೊಂದುವ ಹಂತ ತಲುಪಿದೆ ಎಂದು ಅನೇಕರು ನಂಬುತ್ತಿರುವ ಸಂದರ್ಭದಲ್ಲಿ ಈ ಹೇಳಿಕೆ ಬಂದಿದೆ. ಈ ಪತ್ರಕ್ಕೆ ಸಹಿ ಹಾಕದವರಲ್ಲಿ OpenAIನ ಸಿಇಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್‌ಮನ್ ಕೂಡ ಸೇರಿದ್ದಾರೆ. ಅವರು “ಮಾನವರು ಈಗ ಏಕತ್ವದಲ್ಲಿದ್ದಾರೆ” (humans are now "in the singularity") ಎಂದು ಹೇಳಿದ್ದಾರೆ. ‘ಏಕತ್ವ (singularity)’ ಎನ್ನುವ ಪದವನ್ನು ಸಾಮಾನ್ಯವಾಗಿ AI ಸ್ವಾಯತ್ತವಾಗಿ ಸುಧಾರಿಸಲು ಸಾಧ್ಯವಾಗುವ ಹಂತಕ್ಕೆ ಬಳಸಲಾಗುತ್ತದೆ.

ಸಂಶೋಧಕರು ಎತ್ತಿರುವ ಮತ್ತೊಂದು ಎಚ್ಚರಿಕೆಯ ವಿಷಯವೆಂದರೆ ‘AI ಕೋಡಿಂಗ್ ಅಸಿಸ್ಟಂಟ್‌ಗಳ ಬಳಕೆ’. ಅನೇಕ ಎಂಜಿನಿಯರ್‌ಗಳು ಈಗ ಕೋಡ್ ಬರೆಯಲು AI ಸಿಸ್ಟಂಗಳನ್ನು ಅವಲಂಬಿಸಿದ್ದಾರೆ. ಬಹುತೇಕ ಕಂಪೆನಿಗಳಲ್ಲಿ AI ಕೋಡಿಂಗ್‌ನ ಬಹುಪಾಲನ್ನು ಬರೆಯುತ್ತಿದೆ.

ಕಳೆದ ತಿಂಗಳು Anthropicನ ಆಂತರಿಕ ಚಿಂತಕರ ಚಾವಡಿಯಲ್ಲಿ, “ಸಾಮರ್ಥ್ಯಗಳು ಹೀಗೇ ಮುಂದುವರಿದಲ್ಲಿ AI ವ್ಯವಸ್ಥೆಗಳು ತಮ್ಮನ್ನು ತಾವೇ ವಿನ್ಯಾಸಗೊಳಿಸಬಹುದು ಮತ್ತು ಪರಿಷ್ಕರಿಸಬಹುದು” ಎಂದು ಚರ್ಚಿಸಲಾಗಿದೆ. ಅದೇ ಸಂದರ್ಭದಲ್ಲಿ Anthropic, “ಫ್ರಂಟಿಯರ್ AI ಅಭಿವೃದ್ಧಿಯನ್ನು ನಿಧಾನಗೊಳಿಸುವ ಅಥವಾ ತಾತ್ಕಾಲಿಕ ವಿರಾಮಗೊಳಿಸುವ ಆಯ್ಕೆಯನ್ನು ಜಗತ್ತು ಹೊಂದಿದ್ದರೆ ಒಳಿತು. ಅಂತಹ ಆಯ್ಕೆಯಿಂದ ಸಮಾಜವು ಸ್ವಯಂಚಾಲಿತ AI ಸಂಶೋಧನೆ ಮತ್ತು ಅಭಿವೃದ್ಧಿಗೆ ಸಿದ್ಧವಾಗಲು ಸಮಯ ಸಿಗುತ್ತದೆ” ಎಂದೂ ಹೇಳಿತ್ತು.

AI ಸಂಬಂಧಿಸಿ ಶ್ವೇತಭವನಕ್ಕೆ ಇದೊಂದೇ ಪತ್ರ ಕಳುಹಿಸಲಾಗಿಲ್ಲ. ಇದಕ್ಕೂ ಮೊದಲು ಅನೇಕ ಕಂಪೆನಿಗಳು Kimi K3ಯಂತಹ ಚೀನೀ ಓಪನ್‌-ವೇಟ್ AI ಮಾಡೆಲ್‌ಗಳನ್ನು ನಿಷೇಧಿಸಬಾರದು ಎಂದೂ ಶ್ವೇತಭವನಕ್ಕೆ ಪತ್ರ ಬರೆದಿದ್ದರು. ಅವರ ಪತ್ರಕ್ಕೆ Google, Microsoft ಮತ್ತು OpenAI ಸೇರಿದಂತೆ 50ಕ್ಕೂ ಹೆಚ್ಚು ಸಿಲಿಕಾನ್ ವ್ಯಾಲಿ ಕಂಪೆನಿಗಳು ಸಹಿ ಹಾಕಿ ಪ್ರಮುಖ ಬೆಂಬಲ ವ್ಯಕ್ತಪಡಿಸಿದ್ದವು.