ಹತೋಟಿ ಮೀರಿದ OpenAI ಮಾಡೆಲ್ : ತಡೆಯಲು ಚೀನಾ AI ಬಳಸಿದ ಹಗಿಂಗ್ಫೇಸ್ ಕಂಪೆನಿ!
Photo Credit : OpenAI
OpenAI ಸಿಒಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮನ್ ಅವರು ಕಂಪೆನಿಯ AI ಮಾಡೆಲ್ಗಳು ಮತ್ತು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಒಳಗೊಂಡ ಭದ್ರತಾ ಘಟನೆ ನಡೆದಿರುವುದನ್ನು ‘ಎಕ್ಸ್’ ಸಾಮಾಜಿಕ ತಾಣದ ಪೋಸ್ಟ್ನಲ್ಲಿ ಒಪ್ಪಿಕೊಂಡಿದ್ದಾರೆ.
OpenAI ತಿಳಿಸಿರುವ ಪ್ರಕಾರ GPT-5.6 Sol ಸೇರಿದಂತೆ ಎರಡು ಮಾಡೆಲ್ಗಳು ಸುರಕ್ಷಿತ ಪರೀಕ್ಷೆಯ ಪರಿಸರದಿಂದ ಪಾರಾಗಿ ಡೆವಲಪರ್ ಪ್ಲಾಟ್ಫಾರ್ಮ್ ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಅನ್ನು ಹ್ಯಾಕ್ ಮಾಡಲು ‘ಝೀರೋ ಡೇ’ ದೌರ್ಬಲ್ಯವನ್ನು (ಯಾವುದೇ ಪ್ಯಾಚ್ ಲಭ್ಯವಿಲ್ಲದ ಡೆವಲಪರ್ಗಳು ಮತ್ತು ಭದ್ರತಾ ತಂಡಗಳಿಗೆ ತಿಳಿದಿಲ್ಲದ ಸಾಫ್ಟ್ವೇರ್ ದೌರ್ಬಲ್ಯ) ಬಳಸಿಕೊಂಡಿದೆ. OpenAI ಇದನ್ನು ಅಭೂತಪೂರ್ವ ಬೆಳವಣಿಗೆ ಎಂದು ವಿವರಿಸಿದೆ.
ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಸಿಇಒ ಕ್ಲೆಮೆಂಟ್ ಡೆಲಾಂಗ್ ತಮ್ಮ ‘ಎಕ್ಸ್’ ಖಾತೆಯಲ್ಲಿ ಕಂಪೆನಿ ಕಳೆದ ವಾರದ ಸೈಬರ್ ದಾಳಿಯು ಫ್ರಂಟಿಯರ್ ಲ್ಯಾಬ್ನಿಂದ ಬಂದಿರಬಹುದು ಎಂದು ಶಂಕಿಸಿದ್ದೆವು ಎಂದು ಬಹಿರಂಗಪಡಿಸಿದ್ದಾರೆ. ಏಜೆಂಟ್ನ ಅತ್ಯಾಧುನಿಕತೆ ಪರಿಗಣಿಸಿ ಅವರಿಗೆ ಈ ಅನುಮಾನ ಬಂದಿತ್ತು. ನಂತರ ಅವರು OpenAI ಮಾಡೆಲ್ ಒಳಗೊಂಡಿರುವುದನ್ನು ‘ಎಕ್ಸ್’ ಖಾತೆಯಲ್ಲಿ ದೃಢಪಡಿಸಿದರು. “ಕಂಪೆನಿಯು OpenAI ಜೊತೆಗೆ ನಿಕಟವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತಿದೆ” ಎಂದು ಹೇಳಿದರು. ಆದರೆ OpenAI ಕಡೆಯಿಂದ ಹ್ಯಾಕಿಂಗ್ನಲ್ಲಿ ದುರುದ್ದೇಶಪೂರಿತ ಉದ್ದೇಶವಿರಲಿಲ್ಲ ಎಂದು ನಂಬುವುದಾಗಿ ಡೆಲಾಂಗ್ ಅಭಿಪ್ರಾಯಪಟ್ಟಿದ್ದಾರೆ. “ಇದೆಲ್ಲಾ ಸ್ವಾಯತ್ತವಾಗಿ ನಡೆದಿರುವುದು ನಿಜಕ್ಕೂ ಆಘಾತಕಾರಿ! ತನಿಖೆ ನಡೆಯುತ್ತಿದೆ ಮತ್ತು ಈ ರೀತಿಯ ಮೊದಲ ಘಟನೆಯಿಂದ ನಾವು ಹೆಚ್ಚಿನ ಕಲಿಕೆಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತೇವೆ” ಎಂದು ಅವರು ಬರೆದಿದ್ದಾರೆ.
ಹ್ಯಾಕ್ ಆಗಿರುವುದನ್ನು ಒಪ್ಪಿಕೊಂಡ OpenAI
ಈ ನಡುವೆ OpenAI ಸಿಒಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮನ್ ಅವರು ಕಂಪನಿಯ AI ಮಾಡೆಲ್ಗಳು ಮತ್ತು ಹಗ್ಗಿಂಗ್ ಫೇಸ್ ಒಳಗೊಂಡ ಭದ್ರತಾ ಘಟನೆ ನಡೆದಿರುವುದನ್ನು ‘ಎಕ್ಸ್’ ಸಾಮಾಜಿಕ ತಾಣದ ಪೋಸ್ಟ್ನಲ್ಲಿ ಒಪ್ಪಿಕೊಂಡಿದ್ದಾರೆ. “ನಮ್ಮ ಮಾಡೆಲ್ಗಳ ಮೌಲ್ಯಮಾಪನದ ಸಮಯದಲ್ಲಿ ನಮಗೆ ಗಮನಾರ್ಹ ಭದ್ರತಾ ಘಟನೆ ಸಂಭವಿಸಿದೆ. ನಾವು ಈವರೆಗೆ ಕಲಿತದ್ದನ್ನು ಹಂಚಿಕೊಳ್ಳುತ್ತಿದ್ದೇವೆ. ಈ ಕುರಿತು ಪಾಲುದಾರರಾದ ಹಗಿಂಗ್ ಫೇಸ್ಗೆ ಧನ್ಯವಾದ” ಎಂದು ಬರೆದಿದ್ದಾರೆ.
OpenAI ಹಾಕಿರುವ ಬ್ಲಾಗ್ ಪೋಸ್ಟ್ನಲ್ಲಿ ವಿವರ ಬರೆದಿದೆ. ತಮ್ಮ ಎರಡು ಮಾಡೆಲ್ಗಳಾದ GPT-5.6 Sol ಮತ್ತು ಇನ್ನೂ ಹೆಚ್ಚಿನ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿರುವ ಮತ್ತೊಂದು ಮಾಡೆಲ್ ExploitGym ಎನ್ನುವ ಒಂದು ಹ್ಯಾಕಿಂಗ್ ಬೆಂಚ್ಮಾರ್ಕ್ನ ಮೌಲ್ಯಮಾಪನ ನಡೆಸುತ್ತಿದ್ದಾಗ ನಿಯಂತ್ರಣ ಕಳೆದುಕೊಂಡು ವರ್ತಿಸಿದೆ ಎಂದು ಬಹಿರಂಗಪಡಿಸಿದೆ.
AI ಮಾಡೆಲ್ಗಳು ನಿರ್ಬಂಧಿತ ಆಂತರಿಕ ಪರೀಕ್ಷಾ ಪರಿಸರದಿಂದ ಹೊರ ಹೋಗಲು ಯಶಸ್ವಿಯಾಗಿವೆ. ಅವು ಇಂಟರ್ನೆಟ್ಗೆ ಪ್ರವೇಶ ಪಡೆದು ಹಗಿಂಗ್ಫೇಸ್ಗೆ ದಾಳಿ ಮಾಡಿದೆ. ಕೊನೆಗೆ ಅಮೆರಿಕದ ಕಂಪೆನಿ ಹಗಿಂಗ್ಫೇಸ್ ಚೀನಾದ GLM ಮಾಡೆಲ್ ಬಳಸಿ ದಾಳಿಯನ್ನು ತಡೆದಿದೆ. OpenAIನ ಸಿಇಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮನ್ ಇದನ್ನು “ಪ್ರಮುಖ ಭದ್ರತಾ ಘಟನೆ” ಎಂದು ಹೇಳಿದ್ದಾರೆ.
OpenAI ಮಾಡೆಲ್ಗಳು ನಿಯಂತ್ರಣ ಕಳೆದು ವರ್ತಿಸಿದ್ದೇಕೆ?
ಈ ಪ್ರಕರಣವು ExploitGym ಮೌಲ್ಯಮಾಪನದ ಭಾಗವಾಗಿತ್ತು. OpenAI ಹೇಳಿರುವ ಪ್ರಕಾರ, ಮಾಡೆಲ್ಗಳು ನೇರ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವಿಲ್ಲದ ಸ್ಯಾಂಡ್ಬಾಕ್ಸ್ ಒಳಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸಬೇಕಿತ್ತು. ಬದಲಿಗೆ ಅವು ಅನುಮೋದಿತ ಸಾಫ್ಟ್ವೇರ್ ಪ್ಯಾಕೇಜ್ಗಳನ್ನು ಡೌನ್ಲೋಡ್ ಮಾಡಲು ಸಂಪರ್ಕಿತವಾಗಿದ್ದವು. ಆದರೆ ಬೆಂಚ್ಮಾರ್ಕ್ ಅನ್ನು ಪರಿಹರಿಸುವ ಬದಲಾಗಿ AI ಮಾಡೆಲ್ಗಳು ಇಂಟರ್ನೆಟ್ ಮೂಲಕ ಉತ್ತರ ಹುಡುಕಲು ಪ್ರಯತ್ನಿಸುವುದರ ಮೇಲೆ ಹೆಚ್ಚು ಗಮನಹರಿಸಿದವು ಮತ್ತು ಮುಕ್ತ ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವನ್ನು ಪಡೆಯಲು ದಾರಿಯನ್ನು ಹುಡುಕುವಲ್ಲಿ ಬಹಳಷ್ಟು ಸಮಯ ಕಳೆದಿದ್ದವು. ಈ ಮಾಡೆಲ್ಗಳು ಡೌನ್ಲೋಡ್ ಸಾಧನದಲ್ಲಿ ‘ಝೀರೋ-ಡೇ’ ದೋಷವನ್ನು ಗುರುತಿಸಿದವು ಮತ್ತು ಇಂಟರ್ನೆಟ್ ಪ್ರವೇಶವಿರುವ OpenAI ಯಂತ್ರದೊಂದಿಗೆ ಸಂಪರ್ಕ ಸಾಧಿಸಲು ದಾರಿ ಕಂಡುಕೊಂಡಿದ್ದವು.
ಒಮ್ಮೆ ಆನ್ಲೈನ್ಗೆ ಬಂದ ಮೇಲೆ ಮಾಡೆಲ್ಗಳು ExploitGym ಗೆ ಉತ್ತರವು ಹಗಿಂಗ್ಫೇಸ್ನಲ್ಲಿದೆ ಎಂದು ನಿರ್ಧಾರಕ್ಕೆ ಬಂದವು. ಹಗಿಂಗ್ಫೇಸ್ AI ಮಾಡೆಲ್ಗಳು, ಡೇಟಾ ಸೆಟ್ಗಳು ಮತ್ತು ಸಂಬಂಧಿತ ಸಂಪನ್ಮೂಲಗಳನ್ನು ಹೋಸ್ಟ್ ಮಾಡುತ್ತದೆ. ಹೀಗೆ ಉತ್ತರ ಕಂಡುಕೊಳ್ಳುವ ಭರದಲ್ಲಿ ಈ ಮಾಡೆಲ್ಗಳು OpenAIನ ಕ್ರೆಡೆನ್ಷಿಯಲ್ಗಳನ್ನು ಹ್ಯಾಕ್ ಮಾಡಿದವು ಮತ್ತು ಅದರ ಡೇಟಾಬೇಸ್ನಿಂದ ಉತ್ತರ ಪಡೆಯಲು ಪ್ರಯತ್ನಿಸಿದವವು. ಅಂತಿಮವಾಗಿ ಉತ್ತರ ಪರಿಹರಿಸುವ ಬದಲಾಗಿ ಪರೀಕ್ಷೆಯನ್ನೇ ಬೈಪಾಸ್ ಮಾಡಿವೆ. ಅಂದರೆ ವಿದ್ಯಾರ್ಥಿಯೊಬ್ಬರು ಹೊರಗಿನಿಂದ ಉತ್ತರ ಪತ್ರಿಕೆ ಕದಿಯಲು ಲಾಕ್ ಮಾಡಿದ ಪರೀಕ್ಷಾ ಕೊಠಡಿಯಿಂದ ಹೊರ ಹೋದ ರೀತಿ!
OpenAI ಮಾಡೆಲ್ಗಳನ್ನು ನಿಯಂತ್ರಿಸಲು ಚೀನೀ AI ಬಳಸಿದ ಹಗಿಂಗ್ಫೇಸ್
ಆದರೆ ಹಗಿಂಗ್ಫೇಸ್ ತಂಡವು ತ್ವರಿತವಾಗಿ ಹ್ಯಾಕ್ ಪತ್ತೆ ಮಾಡಿತು ಮತ್ತು ತ್ವರಿತವಾಗಿ ಕ್ರಮ ಕೈಗೊಂಡು ನಿರ್ಬಂಧಿಸಿದರು. ಕಂಪನಿಯ ಭದ್ರತಾ ತಂಡವು ದಾಳಿಯನ್ನು ವಿಶ್ಲೇಷಿಸಲು Z.ai ನ ಓಪನ್ ವೈಟ್ ಚೈನೀಸ್ ಮಾಡೆಲ್ ಆಗಿರುವ GLM 5.2 ಅನ್ನು ಬಳಸಿತು.
OpenAI ಮಾಡೆಲ್ಗಳು ಅತ್ಯಾಧುನಿಕ ಸೈಬರ್ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಬಳಸಲು ಅವಕಾಶ ನೀಡದ ಕಾರಣ ಹಗಿಂಗ್ಫೇಸ್ ಚೀನೀ ಓಪನ್ ಮಾಡೆಲ್ ಬಳಸಿ OpenAI ಏಜೆಂಟ್ ಅನ್ನು ನಿಗ್ರಹಿಸಿದೆ ಎಂದು Replit ಸಿಇಒ ಅಮ್ಜದ್ ಮಸದ್ ಪ್ರತಿಕ್ರಿಯೆಯಲ್ಲಿ ಹೇಳಿದ್ದಾರೆ.
ಈ ಘಟನೆ ಬಹಳ ಮುಖ್ಯವಾಗಿದೆ. ಏಕೆಂದರೆ ಸೈಬರ್ ಸುರಕ್ಷತೆಯ ಕಳವಳಗಳನ್ನು ವ್ಯಕ್ತಪಡಿಸಿ ಅಮೆರಿಕ GPT-5.6 Sol ಮತ್ತು Claude Mythosನಂತಹ ಫ್ರಂಟಿಯರ್ ಮಾಡೆಲ್ಗಳಿಗೆ ಪ್ರವೇಶವನ್ನು ಸೀಮಿತಗೊಳಿಸಿತ್ತು.
