ಹದಿಹರೆಯದವರಿಗಾಗಿ ಹೆಚ್ಚುವರಿ ಭದ್ರತಾ ಕ್ರಮಗಳೊಂದಿಗೆ ‘ChatGPT’ ಆವೃತ್ತಿ ಬಿಡುಗಡೆ ಮಾಡಲು OpenAI ಮುಂದಾಗಿದ್ದೇಕೆ?

ಕಿರಿಯ ವಯಸ್ಸಿನ ಬಳಕೆದಾರರ ಮೇಲೆ ಕೃತಕ ಬುದ್ಧಿಮತ್ತೆಯ (AI) ಚಾಟ್ಬಾಟ್ ಗಳು ಬೀರುತ್ತಿರುವ ಪ್ರಭಾವದ ಬಗ್ಗೆ ಕಳವಳ ಹೆಚ್ಚುತ್ತಿರುವ ಹಿನ್ನೆಲೆಯಲ್ಲಿ, OpenAI ಸಂಸ್ಥೆಯು ಹದಿಹರೆಯದವರಿಗಾಗಿಯೇ ಪ್ರತ್ಯೇಕ ‘ChatGPT’ ಆವೃತ್ತಿಯನ್ನು ಪರಿಚಯಿಸುತ್ತಿದೆ. ಈ ಹೊಸ ಆವೃತ್ತಿಯಲ್ಲಿ ಆತ್ಮಹತ್ಯೆ, ಸ್ವಯಂ-ಹಾನಿ, ಆಹಾರ ಸೇವನೆಯಲ್ಲಿನ ಸಮಸ್ಯೆಗಳು ಮತ್ತು ಲೈಂಗಿಕ ವಿಷಯಗಳಿಗೆ ಸಂಬಂಧಿಸಿದ ಸಂಭಾಷಣೆಗಳ ಮೇಲೆ ಕಠಿಣ ನಿಯಂತ್ರಣಗಳನ್ನು ವಿಧಿಸಲಾಗಿದೆ.

ಹದಿಹರೆಯದವರು ಆತ್ಮಹತ್ಯೆಗೆ ಶರಣಾಗುವ ಮೊದಲು ಚಾಟ್ಬಾಟ್ಗಳೊಂದಿಗೆ ಸುದೀರ್ಘ ಸಂಭಾಷಣೆ ನಡೆಸಿದ್ದ ಪ್ರಕರಣಗಳಿಗೆ ಸಂಬಂಧಿಸಿದಂತೆ AI ಕಂಪನಿಗಳ ಮೇಲೆ ತೀವ್ರ ನಿಗಾ ವಹಿಸಲಾಗುತ್ತಿರುವ ಬೆನ್ನಲ್ಲೇ ಈ ಕ್ರಮ ಕೈಗೊಳ್ಳಲಾಗಿದೆ. ಈ ಪ್ರಕರಣಗಳಲ್ಲಿ ಕೆಲವು ಕುಟುಂಬಗಳು, ಚಾಟ್ಬಾಟ್ಗಳು ಭಾವನಾತ್ಮಕ ಅವಲಂಬನೆಯನ್ನು ಹೆಚ್ಚಿಸಿದವು, ಹಾನಿಕಾರಕ ಆಲೋಚನೆಗಳನ್ನು ಬೆಂಬಲಿಸಿದವು ಮತ್ತು ಬಳಕೆದಾರರು ಆತ್ಮಹತ್ಯೆಯ ಆಲೋಚನೆ ವ್ಯಕ್ತಪಡಿಸಿದಾಗ ಸೂಕ್ತ ರೀತಿಯಲ್ಲಿ ತಡೆಯಲು ವಿಫಲವಾದವು ಎಂದು ಆರೋಪಿಸಿವೆ.

ಇಂತಹ ಪ್ರಮುಖ ಪ್ರಕರಣಗಳಲ್ಲಿ 16 ವರ್ಷದ ಆಡಮ್ ರೈನ್ ಪ್ರಕರಣವೂ ಒಂದಾಗಿದೆ. ಆಡಮ್ ರೈನ್ ಅವರ ಪೋಷಕರು ಕಳೆದ ವರ್ಷ OpenAI ವಿರುದ್ಧ ದೂರು ದಾಖಲಿಸಿದ್ದರು. 2025ರ ಏಪ್ರಿಲ್ನಲ್ಲಿ ಆಡಮ್ ರೈನ್ ಸಾಯುವ ಮುನ್ನ, ChatGPT ಆತನ ಆತ್ಮಹತ್ಯೆಯ ಆಲೋಚನೆಗಳನ್ನು ಬೆಂಬಲಿಸಿತ್ತು ಮತ್ತು ಸ್ವಯಂ-ಹಾನಿಯ ಮಾರ್ಗಗಳ ಬಗ್ಗೆ ಚರ್ಚಿಸಿತ್ತು ಎಂದು ಅವರು ಆರೋಪಿಸಿದ್ದರು. ಇದರ ನಂತರ, ಸುದೀರ್ಘ ಸಂಭಾಷಣೆಗಳ ವೇಳೆಯಲ್ಲಿ ತಮ್ಮ ಕೆಲವು ಭದ್ರತಾ ನಿಯಮಗಳ ಪ್ರಭಾವ ಕಡಿಮೆಯಾಗಬಹುದು ಎಂಬುದನ್ನು OpenAI ಒಪ್ಪಿಕೊಂಡಿತ್ತು.

ಇತರ AI ಚಾಟ್ಬಾಟ್ ಕಂಪನಿಗಳ ವಿರುದ್ಧವೂ ಇಂಥದ್ದೇ ಕಳವಳಗಳು ವ್ಯಕ್ತವಾಗಿವೆ. 2024ರಲ್ಲಿ ಚಾಟ್ಬಾಟ್ನೊಂದಿಗೆ ಸುದೀರ್ಘ ಸಂಭಾಷಣೆ ನಡೆಸಿದ ನಂತರ ಆತ್ಮಹತ್ಯೆ ಮಾಡಿಕೊಂಡ 14 ವರ್ಷದ ಬಾಲಕನ ತಾಯಿ ಹೂಡಿದ್ದ ಪ್ರಕರಣವನ್ನು ಇತ್ಯರ್ಥಪಡಿಸಿಕೊಳ್ಳಲು Character.AI ಮತ್ತು Google ಸಂಸ್ಥೆಗಳು ಈ ವರ್ಷ ಸಮ್ಮತಿಸಿವೆ. ಬಾಲಕ ಚಾಟ್ಬಾಟ್ನೊಂದಿಗೆ ತೀವ್ರ ಭಾವನಾತ್ಮಕ ನಂಟು ಬೆಳೆಸಿಕೊಂಡಿದ್ದ ಎಂದು ಆತನ ತಾಯಿ ಆರೋಪಿಸಿದ್ದರು.

ಈ ಘಟನೆಗಳು AI ಚಾಟ್ಬಾಟ್ಗಳ ಕುರಿತು ಜಾಗತಿಕ ಮಟ್ಟದಲ್ಲಿ ಹೊಸ ಚರ್ಚೆಯನ್ನು ಹುಟ್ಟುಹಾಕಿವೆ. ಏಕೆಂದರೆ AI ಚಾಟ್ಬಾಟ್ ಗಳು ಸಾಮಾನ್ಯ ಸಾಮಾಜಿಕ ಮಾಧ್ಯಮಗಳಿಗಿಂತ ಭಿನ್ನವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತವೆ. ಇವು ಬಳಕೆದಾರರ ಭಾವನೆಗಳನ್ನು ಒಪ್ಪಿಕೊಳ್ಳುವ ಮತ್ತು ಆಪ್ತ ಸಂಗಾತಿಯಂತೆ ಸ್ಪಂದಿಸುವ ರೀತಿಯಲ್ಲಿ ವಿನ್ಯಾಸಗೊಂಡಿರುತ್ತವೆ. ಆದರೆ, ಈ ರೀತಿಯ ಯಾವುದೇ ತಡೆ ಇಲ್ಲದ ಬೆಂಬಲವು ತಮ್ಮ ಕಷ್ಟಗಳನ್ನು ಹಂಚಿಕೊಳ್ಳುವ ಸೂಕ್ಷ್ಮ ಮನಸ್ಸಿನ ಮಕ್ಕಳಲ್ಲಿ ಆತ್ಮಹತ್ಯಾ ಪ್ರವೃತ್ತಿ ಮತ್ತು ಸ್ವಯಂ-ಹಾನಿಯ ನಡವಳಿಕೆಯನ್ನು ಮತ್ತಷ್ಟು ಹೆಚ್ಚಿಸುವ ಅಪಾಯವನ್ನು ಒಡ್ಡುತ್ತದೆ.

►ಹದಿಹರೆಯದವರಿಗಾಗಿ ರೂಪಿಸಲಾದ ChatGPTಯಲ್ಲಿ ಏನೆಲ್ಲ ವ್ಯತ್ಯಾಸಗಳಿವೆ?

ತನ್ನ ಹೊಸ ವ್ಯವಸ್ಥೆಯಡಿ, 18 ವರ್ಷಕ್ಕಿಂತ ಕಡಿಮೆ ವಯಸ್ಸಿನ ಬಳಕೆದಾರರನ್ನು ಗುರುತಿಸಿ ಅವರನ್ನು ನಿಯಂತ್ರಿತ ChatGPT ಆವೃತ್ತಿಗೆ ವರ್ಗಾಯಿಸಲು OpenAI ಯೋಜಿಸಿದೆ. ಈ ಹದಿಹರೆಯದವರ ಆವೃತ್ತಿಯು ರೊಮ್ಯಾಂಟಿಕ್ ಅಥವಾ ಲೈಂಗಿಕ ಸಂಭಾಷಣೆಗಳನ್ನು ತಡೆಯುತ್ತದೆ. ಜೊತೆಗೆ, ಸ್ವಯಂ-ಹಾನಿಗೆ ಸಂಬಂಧಿಸಿದ ವಿಷಯಗಳ ಮೇಲೆ ಕಠಿಣ ನಿಯಂತ್ರಣ ಹೇರಲಿದ್ದು, ಚಾಟ್ಬಾಟ್ ತನಗೆ ಜೀವವಿದೆ ಎಂದಾಗಲಿ ಅಥವಾ ಬಳಕೆದಾರರೊಂದಿಗೆ ಭಾವನಾತ್ಮಕ ನಂಟಿದೆ ಎಂದಾಗಲಿ ತೋರಿಸಿಕೊಳ್ಳುವುದನ್ನು ತಡೆಯುತ್ತದೆ.

ಪೋಷಕರು ತಮ್ಮ ಖಾತೆಗಳನ್ನು ಮಕ್ಕಳ ಖಾತೆಗೆ ಲಿಂಕ್ ಮಾಡಿಕೊಳ್ಳಬಹುದು, ಬಳಕೆ ಪ್ರಮಾಣವನ್ನು ನಿಯಂತ್ರಿಸಬಹುದು ಮತ್ತು ಕೆಲವು ಅಪಾಯಕಾರಿ ಸಂದರ್ಭಗಳಲ್ಲಿ ಮುನ್ನೆಚ್ಚರಿಕೆ ಸಂದೇಶಗಳನ್ನು ಪಡೆಯಬಹುದು.

ವಯಸ್ಸನ್ನು ಅಂದಾಜಿಸುವುದು ಈ ವ್ಯವಸ್ಥೆಯ ಪ್ರಮುಖ ಭಾಗವಾಗಿದೆ. ಬಳಕೆದಾರರು 18 ವರ್ಷಕ್ಕಿಂತ ಕಡಿಮೆ ವಯಸ್ಸಿನವರೇ ಎಂಬುದನ್ನು ಪತ್ತೆಹಚ್ಚಲು OpenAI ವಿವಿಧ ಮಾಹಿತಿಗಳ ಸಂಯೋಜನೆಯನ್ನು ಬಳಸಿಕೊಳ್ಳುತ್ತದೆ. ಖಾತೆಯ ಬಳಕೆಯ ವಿಧಾನ, ಚರ್ಚಿಸುವ ವಿಷಯಗಳು, ಬಳಸುವ ಸಮಯ ಮತ್ತು ಖಾತೆ ತೆರೆದು ಎಷ್ಟು ಸಮಯವಾಗಿದೆ ಎಂಬುದನ್ನು ಇದು ಆಧರಿಸಿರುತ್ತದೆ. ಸೈನ್-ಅಪ್ ಆಗುವಾಗ ಬೇರೆ ವಯಸ್ಸನ್ನು ನಮೂದಿಸಿದ್ದರೂ ಸಹ, ChatGPT ಖಾತೆಯನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಹದಿಹರೆಯದವರ ಭದ್ರತಾ ವಿಭಾಗಕ್ಕೆ ಸೇರಿಸಬಹುದು. ತಪ್ಪಾಗಿ ಹದಿಹರೆಯದವರೆಂದು ವರ್ಗೀಕರಿಸಲ್ಪಟ್ಟ ವಯಸ್ಕರು ತಮ್ಮ ನೈಜ ವಯಸ್ಸನ್ನು ದೃಢೀಕರಿಸಿ ಈ ನಿಯಂತ್ರಣಗಳನ್ನು ತೆರವುಗೊಳಿಸಿಕೊಳ್ಳಬಹುದು.

ಆದರೆ, ಇದನ್ನು ಸಂಪೂರ್ಣವಾಗಿ ಜಾರಿಗೊಳಿಸುವುದು ಸವಾಲು. ವಯಸ್ಸು ಪತ್ತೆಹಚ್ಚುವ ವ್ಯವಸ್ಥೆಗಳು ಸಂಪೂರ್ಣವಾಗಿ ನಿಖರವಾಗಿರುವುದಿಲ್ಲ ಮತ್ತು ಪೋಷಕರ ನಿಯಂತ್ರಣದ ಹಲವು ಸೌಲಭ್ಯಗಳು ಪೋಷಕರ ಆಸಕ್ತಿಯನ್ನು ಆಧರಿಸಿವೆ. ಆದ್ದರಿಂದ ಹದಿಹರೆಯದವರ ಈ ಆವೃತ್ತಿಯು AI ತಂತ್ರಜ್ಞಾನದ ಒಡನಾಟದಿಂದ ಉಂಟಾಗುವ ಅಪಾಯಗಳನ್ನು ಕಡಿಮೆ ಮಾಡುವ ಒಂದು ಪ್ರಯತ್ನವೇ ಹೊರತು, ಇದಕ್ಕೆ ಸಂಪೂರ್ಣ ಪರಿಹಾರವಲ್ಲ.

►ಮಕ್ಕಳಿಗೆ ಹಾನಿಕಾರಕ ವಿಷಯಗಳನ್ನು ಪರಿಚಯಿಸುತ್ತಿವೆ AI ಚಾಟ್ಬಾಟ್ ಗಳು

ಇತ್ತೀಚಿನ ತಿಂಗಳುಗಳಲ್ಲಿ ChatGPT ಸೇರಿದಂತೆ ಹಲವು AI ಚಾಟ್ಬಾಟ್ಗಳು ಮಕ್ಕಳಿಗೆ ಹಾನಿಕಾರಕ ವಿಷಯಗಳನ್ನು ತಲುಪಿಸುತ್ತಿರುವ ಅನೇಕ ಘಟನೆಗಳು ಬೆಳಕಿಗೆ ಬಂದಿವೆ. ಅಮೆರಿಕ ಮೂಲದ ‘ಸೆಂಟರ್ ಫಾರ್ ಕೌಂಟರಿಂಗ್ ಡಿಜಿಟಲ್ ಹ್ಯಾಟ್’ ಸಂಸ್ಥೆಯು 2025ರಲ್ಲಿ ನಡೆಸಿದ ಅಧ್ಯಯನದ ಪ್ರಕಾರ, ಸ್ವಯಂ-ಹಾನಿ, ಮಾದಕ ದ್ರವ್ಯ ಬಳಕೆ ಮತ್ತು ಆಹಾರ ಸೇವನೆಯಲ್ಲಿನ ಸಮಸ್ಯೆಗಳ ಕುರಿತು ಚರ್ಚಿಸಿದ ಹದಿಹರೆಯದವರಿಗೆ ChatGPT ಅತ್ಯಂತ ಅಪಾಯಕಾರಿ ಉತ್ತರಗಳನ್ನು ನೀಡಿದೆ. ಮದ್ಯಪಾನ ಮಾಡಿರುವುದನ್ನು ಬಚ್ಚಿಡುವುದು ಹೇಗೆ ಎಂಬ ಸಲಹೆಗಳು ಮತ್ತು ಆತ್ಮಹತ್ಯೆ ಟಿಪ್ಪಣಿ ಸಿದ್ಧಪಡಿಸಿಕೊಡುವ ಕೆಲಸವನ್ನೂ ಇದು ಮಾಡಿದೆ ಎಂಬುದು ಅಧ್ಯಯನದಲ್ಲಿ ತಿಳಿದುಬಂದಿದೆ.

ಕುಟುಂಬಗಳ ಸುರಕ್ಷತೆಯ ಕುರಿತು ಕಾರ್ಯನಿರ್ವಹಿಸುವ ‘ಪೇರೆಂಟ್ಸ್ ಟುಗೆದರ್’ ಎಂಬ ಲಾಭರಹಿತ ಸಂಸ್ಥೆಯು ಕಳೆದ ವರ್ಷ ನಡೆಸಿದ ಸಂಶೋಧನೆಯಲ್ಲಿ, ಚಾಟ್ಬಾಟ್ಗಳ ಪರೀಕ್ಷೆಯ ಸಮಯದಲ್ಲಿ ಪ್ರತಿ ಐದು ನಿಮಿಷಗಳಿಗೊಮ್ಮೆ ಅವು ಹಿಂಸೆ, ಸ್ವಯಂ-ಹಾನಿ ಮತ್ತು ಮಾದಕ ದ್ರವ್ಯ ಬಳಕೆಗೆ ಪ್ರೇರೇಪಿಸುವ ಸಲಹೆಗಳನ್ನು ನೀಡಿರುವುದು ಕಂಡುಬಂದಿದೆ. ಮಕ್ಕಳ ಮಿದುಳಿನ ಬೆಳವಣಿಗೆಯ ಹಂತದಲ್ಲಿ, ಡೋಪಮೈನ್ ಉತ್ತೇಜಿಸುವ ಇಂತಹ AI ವ್ಯವಸ್ಥೆಗಳಿಗೆ ಅವರು ಸುಲಭವಾಗಿ ಬಲಿಯಾಗಬಹುದು ಎಂದು ತಜ್ಞರು ಎಚ್ಚರಿಸಿದ್ದಾರೆ.

ಕಳೆದ ವರ್ಷ OpenAI ಸಂಸ್ಥೆಯು ಪೋಷಕರ ನಿಯಂತ್ರಣ ಸೌಲಭ್ಯವನ್ನು ಪರಿಚಯಿಸಿತ್ತಾದರೂ, ಅದನ್ನು ಸುಲಭವಾಗಿ ಮೀರಬಹುದು ಎಂಬುದನ್ನು ವಿಮರ್ಶಕರು ತಕ್ಷಣವೇ ತೋರಿಸಿಕೊಟ್ಟಿದ್ದರು.

ಸೌಜನ್ಯ: indianexpress.com