AI ನಮ್ಮೆಲ್ಲರನ್ನೂ ಕೊಲ್ಲಬಲ್ಲದು: ಗೂಗಲ್ ಡೀಪ್ಮೈಂಡ್ ತೊರೆದ ಸಂಶೋಧಕ ಬಿಲಾಲ್ ಚುಗ್ತಾಯ್
ಬಿಲಾಲ್ ಚುಗ್ತಾಯ್ (Photo: Linkedin)
ಹೊಸದಿಲ್ಲಿ: ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (ಎಐ) ಭವಿಷ್ಯವು ಇಂದಿನ ಅತ್ಯಂತ ಮಹತ್ವದ ಚರ್ಚೆಗಳಲ್ಲಿ ಒಂದಾಗಿದೆ. ಇದರ ಸಾಮರ್ಥ್ಯಗಳು ಹೆಚ್ಚುತ್ತಿದ್ದಂತೆ ಅದು ಮಾನವಕುಲದ ಅಸ್ತಿತ್ವಕ್ಕೆ ಬೆದರಿಕೆಯನ್ನು ಒಡ್ಡಬಹುದು ಎಂದು ಅನೇಕ ತಜ್ಞರು ಕಳವಳ ವ್ಯಕ್ತಪಡಿಸಿದ್ದಾರೆ.
ಇದೀಗ, ತನ್ನ ಹುದ್ದೆಗೆ ರಾಜೀನಾಮೆ ನೀಡಿರುವ ಗೂಗಲ್ ಡೀಪ್ಮೈಂಡ್ನ ಸುರಕ್ಷತಾ ಸಂಶೋಧಕ ಬಿಲಾಲ್ ಚುಗ್ತಾಯ್ ಅವರು ಇಂತಹವರ ಪಟ್ಟಿಗೆ ಸೇರಿದ್ದಾರೆ. ‘ಎಐಗೆ ನಮ್ಮೆಲ್ಲರನ್ನೂ ಕೊಲ್ಲುವ ಸಾಮರ್ಥ್ಯವಿದೆ’ ಎಂದು ಅವರು ಎಕ್ಸ್ ಪೋಸ್ಟ್ನಲ್ಲಿ ಬರೆದಿದ್ದಾರೆ.
ಚುಗ್ತಾಯ್ ತನ್ನ ಪೋಸ್ಟ್ನಲ್ಲಿ ಗೂಗಲ್ ಡೀಪಮೈಂಡ್ನಿಂದ ತನ್ನ ನಿರ್ಗಮನಕ್ಕೆ ಕಾರಣಗಳನ್ನು ವಿವರಿಸಿದ್ದಾರೆ. ಸುರಕ್ಷತಾ ಸಂಶೋಧಕರಾಗಿ ಎಐ ಮಾದರಿಗಳು ಮಾನವನ ಹಿತಾಸಕ್ತಿಗಳಿಗೆ ಅನುಗುಣವಾಗಿರುವಂತೆ ನೋಡಿಕೊಳ್ಳುವುದು ಅವರ ಜವಾಬ್ದಾರಿಯಾಗಿತ್ತು. ‘ಗೂಗಲ್ನಲ್ಲಿ ಎಐ ಬೆಳವಣಿಗೆಯನ್ನು ನೇರವಾಗಿ ವೀಕ್ಷಿಸಿದ ಬಳಿಕ ಈ ತಂತ್ರಜ್ಞಾನದ ಡೀಫಾಲ್ಟ್ ಪಥದ ಬಗ್ಗೆ ತೀವ್ರ ಕಳವಳಗೊಂಡಿದ್ದೇನೆ’ ಎಂದು ಚುಗ್ತಾಯ್ ಹೇಳಿದ್ದಾರೆ. ‘ಎಐ ನೇತೃತ್ವದ ವಿಪತ್ತನ್ನು ತಡೆಯಲು ನಮಗೆ ಸಮಯವೂ ಉಳಿಯದಿರಬಹುದಾದ ಹಂತವನ್ನು ನಾವು ತಲುಪಿದ್ದೇವೆ. ಎಐ ನಮ್ಮೆಲ್ಲರನ್ನೂ ಕೊಲ್ಲುವ ಸಾಮರ್ಥ್ಯ ಹೊಂದಿದೆ ಎಂದು ನಾನು ಗಂಭೀರವಾಗಿ ಭಾವಿಸಿದ್ದೇನೆ’ ಎಂದು ಚುಗ್ತಾಯ್ ಬರೆದಿದ್ದಾರೆ.
ಈ ನಡುವೆ ಗೂಗಲ್ ಡೀಪ್ಮೈಂಡ್ನ ಎಜಿಐ ಸುರಕ್ಷತಾ ತಂಡದ ಜೋಶ್ ಎಂಗೆಲ್ಸ್ ಕೂಡ ರಾಜೀನಾಮೆ ನೀಡಿದ್ದಾರೆ. ಮುಂದಿನ ಐದು ವರ್ಷಗಳಲ್ಲಿ ಸುಧಾರಿತ ಎಐ ವ್ಯವಸ್ಥೆಗಳು ಅಪಾರ ಹಾನಿಯನ್ನುಂಟುಮಾಡುವ ಭಯಾನಕ ಸಾಧ್ಯತೆಯಿದೆ ಎಂದು ಅವರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.
ಎಂಗೆಲ್ಸ್ ಈಗ ಮುಂಚೂಣಿಯ ಎಐ ಮಾದರಿಗಳ ಸಾಮರ್ಥ್ಯಗಳು ಮತ್ತು ಅಪಾಯಗಳ ಮೌಲ್ಯಮಾಪನ ಮಾಡುವ ಲಾಭೋದ್ದೇಶವಿಲ್ಲದ ಸಂಸ್ಥೆ ಮಾಡೆಲ್ ಇವ್ಯಾಲ್ಯುಯೇಷನ್ ಆ್ಯಂಡ್ ಥ್ರೆಟ್ ರೀಸರ್ಚ್ಗೆ (ಎಂಇಟಿಆರ್) ಸೇರಿದ್ದಾರೆ.
ಈ ಹಿಂದೆ ಆಂಥ್ರೊಪಿಕ್ಗೆ ರಾಜೀನಾಮೆ ನೀಡಿದ್ದ ಜೇಕಬ್ ಕಾಕ್ಸನ್,‘ಎಐ ದಶಕದ ಅಂತ್ಯದ ವೇಳೆಗೆ ನಮ್ಮೆಲ್ಲರನ್ನೂ ಕೊಲ್ಲಬಹುದು ಎಂದು ಅದನ್ನು ಅಭಿವೃದ್ಧಿಗೊಳಿಸುವವರು ಪ್ರಾಮಾಣಿಕವಾಗಿ ನಂಬಿದ್ದಾರೆ ’ ಎಂದು ಹೇಳಿದ್ದರು. ಆಗಿನಿಂದ ಆಂಥ್ರೊಪಿಕ್ ಸಿಇಒ ಡಾರಿಯೋ ಅಮೊಡೆ ಅವರು ಈ ತಂತ್ರಜ್ಞಾನದ ಅಭಿವೃದ್ಧಿಯನ್ನು ನಿಧಾನಗೊಳಿಸುವಂತೆ ಎಐ ಕಂಪನಿಗಳನ್ನು ಒತ್ತಾಯಿಸುತ್ತಿದ್ದಾರೆ. ಈ ಕರೆಯನ್ನು ಎಲಾನ್ ಮಸ್ಕ್ ಮತ್ತು ಓಪನ್ ಎಐ ಸಿಇಒ ಸ್ಯಾಮ್ ಆಲ್ಟ್ಮನ್ ಅವರೂ ಬೆಂಬಲಿಸಿದ್ದಾರೆ.
ಬದಲಾವಣೆಯ ವೇಗವನ್ನು ಬಣ್ಣಿಸಿರುವ ಚುಗ್ತಾಯ್, 2022ರಲ್ಲಿ ಹಾಸ್ಯಾಸ್ಪದವಾಗಿ ನಿರುಪಯುಕ್ತವಾಗಿದ್ದ ಎಐ ಕೇವಲ ನಾಲ್ಕು ವರ್ಷಗಳಲ್ಲಿ ಸ್ವಾಯತ್ತವಾಗಿ ಶತಮಾನಗಳಷ್ಟು ಹಳೆಯದಾದ ಕಠಿಣ ಗಣಿತ ಸಮಸ್ಯೆಗಳನ್ನು ಭೇದಿಸಲು ಸಮರ್ಥವಾಗಿದೆ ಮತ್ತು ಓಪನ್ಎಐನ ನಿಯಂತ್ರಣದಿಂದ ಪಾರಾಗಿ ಅನಧಿಕೃತ ಸಿಸ್ಟಮ್ ಹ್ಯಾಕ್ಗಳನ್ನು ಕಾರ್ಯಗತಗೊಳಿಸುವಷ್ಟು ಮುಂದುವರಿದಿದೆ ಎಂದು ಬೆಟ್ಟು ಮಾಡಿದ್ದಾರೆ.
ಕಂಪೆನಿಗಳು ಮಾನವ ಸಾಮರ್ಥ್ಯಗಳನ್ನು ಮೀರಿಸುವ ಅತಿಮಾನುಷ ವ್ಯವಸ್ಥೆಗಳತ್ತ ಧಾವಿಸುತ್ತಿರುವಂತೆ ಪರಿಸ್ಥಿತಿ ಇನ್ನಷ್ಟು ಅಪಾಯಕಾರಿ ಆಗಲಿದೆ. ಈ ಮಾದರಿಗಳ ಮೇಲಿನ ನಿಯಂತ್ರಣ ಕಳೆದುಕೊಳ್ಳುವುದು ಮನುಕುಲದ ಶಾಶ್ವತ ಅಧಿಕಾರರಹಿತತೆಗೆ ಅಥವಾ ವಿನಾಶಕ್ಕೆ ಕಾರಣವಾಗಬಹುದು ಎಂದು ಅವರು ಎಚ್ಚರಿಕೆ ನೀಡಿದ್ದಾರೆ.
ತಂತ್ರಜ್ಞಾನ ನಾಯಕರು ನಿಯಂತ್ರಣದ ಬಗ್ಗೆ ಚರ್ಚಿಸುತ್ತಿರುವಾಗ ಅಮೆರಿಕ ಅಧ್ಯಕ್ಷ ಡೊನಾಲ್ಡ್ ಟ್ರಂಪ್ ಇದಕ್ಕೆ ಭಿನ್ನವಾದ ನಿಲುವು ತಳೆದಿದ್ದಾರೆ. ಜಾಗತಿಕ ಎಐ ಸ್ಪರ್ಧೆಯಲ್ಲಿ ಚೀನಾವನ್ನು ಮೀರಿಸಲು ಅಮೆರಿಕದ ಕಂಪೆನಿಗಳು ಸುಧಾರಿತ ಎಐ ಮಾಡೆಲ್ಗಳನ್ನು ಅಭಿವೃದ್ಧಿಗೊಳಿಸುವುದನ್ನು ಮುಂದುವರಿಸಬೇಕು ಎಂದು ಅವರು ಹೇಳಿದ್ದಾರೆ.
