AI-ರಚಿತ ನಗ್ನಚಿತ್ರಗಳನ್ನು ಏಕೆ ತಡೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ — ಒಬ್ಬ ಬಿಲ್ಡರ್‌ನ ದೃಷ್ಟಿಕೋನ

ಜನರನ್ನು ರಕ್ಷಿಸುತ್ತಿದ್ದ ಅಡೆತಡೆಗಳು ಈಗ ಇಲ್ಲವಾಗಿವೆ

ಕೆಲವು ವರ್ಷಗಳ ಹಿಂದೆ, ನಂಬಲರ್ಹವಾದ ನಗ್ನ ಛಾಯಾಚಿತ್ರವನ್ನು ನಕಲಿಯಾಗಿ ಸೃಷ್ಟಿಸಲು ನಿಜವಾದ ಶ್ರಮ ಬೇಕಾಗಿತ್ತು — ಉತ್ತಮ GPU, ಕಷ್ಟಕರ ತಂತ್ರಾಂಶದೊಂದಿಗೆ ತಾಳ್ಮೆ ಮತ್ತು ಕಚ್ಚಾ ಫಲಿತಾಂಶಗಳನ್ನು ಸಹಿಸಿಕೊಳ್ಳುವ ಮನೋಭಾವ. ಆ ಶ್ರಮವು ನೈಸರ್ಗಿಕ ಫಿಲ್ಟರ್‌ನಂತೆ ಕೆಲಸ ಮಾಡುತ್ತಿತ್ತು, ತೀವ್ರವಾಗಿ ಪ್ರೇರೇಪಿತಗೊಳ್ಳದ ಯಾರನ್ನಾದರೂ ಹೊರಗಿಡುತ್ತಿತ್ತು. ಆ ಫಿಲ್ಟರ್ ಈಗ ಇಲ್ಲ.

ಇಂದಿನ ಮುಕ್ತ ಚಿತ್ರ-ರಚನೆಯ ಮಾದರಿಗಳು ಸಾಮಾನ್ಯ ಗ್ರಾಹಕ ಯಂತ್ರಾಂಶಗಳಲ್ಲಿ ನೈಜವಾದ (photorealistic) ಔಟ್‌ಪುಟ್ ನೀಡುತ್ತವೆ. ಕಮ್ಯುನಿಟಿ ಮಾಡೆಲ್ ರೆಪೊಸಿಟರಿಗಳು ತಲಾ ಹತ್ತು ಲಕ್ಷಕ್ಕೂ ಹೆಚ್ಚು ಬಾರಿ ಡೌನ್‌ಲೋಡ್ ಆದ ಚೆಕ್‌ಪಾಯಿಂಟ್‌ಗಳನ್ನು ಹೊಂದಿರುತ್ತವೆ, ಮತ್ತು ಜನಪ್ರಿಯ ಮೂಲ ಮಾದರಿಗಳ ಮೇಲೆ ನಿರ್ಮಿಸಲಾದ ಸ್ಪಷ್ಟ-ವಿಷಯದ (explicit-content) ರೂಪಾಂತರಗಳನ್ನು ನೂರಾರು ಸಾವಿರ ಬಾರಿ ಪಡೆಯಲಾಗಿದೆ. ಇದರ ಮೇಲೆ, ನಿರ್ದಿಷ್ಟ ನೋಟ, ದೇಹದ ಮಾದರಿ ಅಥವಾ ನಿರ್ದಿಷ್ಟ ನೈಜ ವ್ಯಕ್ತಿಯ ಕಡೆಗೆ ಔಟ್‌ಪುಟ್ ಅನ್ನು ಬದಲಾಯಿಸಲು ಹವ್ಯಾಸಿಗಳು ನಿರ್ಮಿಸಿದ ಎಣಿಕೆಯಿಲ್ಲದ ಸಣ್ಣ "fine-tune" ಫೈಲ್‌ಗಳಿವೆ. ಅತ್ಯಂತ ವ್ಯಾಪಕವಾಗಿ ಬಳಸಲಾಗುವ ಕೆಲವು ಮೂಲ ಮಾದರಿಗಳನ್ನು ಲಕ್ಷಾಂತರ ಚಿತ್ರಗಳ ಮೇಲೆ ತರಬೇತಿಗೊಳಿಸಲಾಗಿದೆ ಮತ್ತು ಯಾವುದೇ ಅಂತರ್ನಿರ್ಮಿತ ವಿಷಯ ನಿರ್ಬಂಧಗಳಿಲ್ಲದೆ ನೀಡಲಾಗುತ್ತದೆ. ಇದ್ಯಾವುದಕ್ಕೂ ಈಗ ವಿಶೇಷ ಯಂತ್ರಾಂಶ ಅಗತ್ಯವಿಲ್ಲ — ಕೆಲವು ವರ್ಷಗಳ ಹಿಂದಿನ ಮಧ್ಯಮ ಹಂತದ ಗೇಮಿಂಗ್ ಲ್ಯಾಪ್‌ಟಾಪ್ ಸಾಕಾಗುತ್ತದೆ.

ನಂತರ ಪ್ಯಾಕೇಜ್ ಮಾಡಿದ ಆವೃತ್ತಿಯಿದೆ: ಎಲ್ಲಾ ತಂತ್ರಜ್ಞಾನವನ್ನು ಒಂದೇ ಬಟನ್ ಹಿಂದೆ ಅಡಗಿಸಿಡುವ "nudify" ಆಪ್‌ಗಳು. ಉಡುಪು ಧರಿಸಿದ ಫೋಟೋವನ್ನು ಅಪ್‌ಲೋಡ್ ಮಾಡಿ, ಕೆಲವು ಸೆಕೆಂಡು ಕಾಯಿರಿ, ನಕಲಿ ನಗ್ನಚಿತ್ರವನ್ನು ಪಡೆಯಿರಿ. ಇತ್ತೀಚಿನ ಪಾರದರ್ಶಕತೆಯ ವರದಿಗಳು ಪ್ರಮುಖ ಆಪ್ ಸ್ಟೋರ್‌ಗಳಲ್ಲಿ ಈ ರೀತಿಯ ಹತ್ತಾರು ಆಪ್‌ಗಳನ್ನು ಎಣಿಕೆ ಮಾಡಿದ್ದು, ಅವುಗಳ ಒಟ್ಟು ಡೌನ್‌ಲೋಡ್‌ಗಳು ನೂರಾರು ಮಿಲಿಯನ್ ತಲುಪಿವೆ. ಆಕರ್ಷಕ ಇಂಟರ್‌ಫೇಸ್ ಮತ್ತು ಪಾವತಿ ಗೋಡೆಯನ್ನು ಹೊರತುಪಡಿಸಿದರೆ, ಇದು ಯಾರಾದರೂ ಮನೆಯಲ್ಲಿ ಚಲಾಯಿಸಬಹುದಾದ ಅದೇ ಓಪನ್-ಸೋರ್ಸ್ ಡಿಫ್ಯೂಷನ್ ತಂತ್ರಜ್ಞಾನವಾಗಿದೆ.

ಓಪನ್ ವೇಟ್‌ಗಳು ಎಂದರೆ ಅಲ್ಲಿ ಆಫ್ ಸ್ವಿಚ್ ಇಲ್ಲ ಎಂದರ್ಥ

ಹೆಚ್ಚಿನ ಚಿಂತನಾ ಲೇಖನಗಳಲ್ಲಿ ನಿರ್ಲಕ್ಷಿಸಲ್ಪಡುವ ಭಾಗ ಇದು: ಈ ಮಾದರಿಗಳು ಓಪನ್ ವೇಟ್‌ಗಳು. ಒಮ್ಮೆ ಬಿಡುಗಡೆಯಾದ ನಂತರ, ಮಾದರಿಯ ನಿಯತಾಂಕಗಳು ಫೈಲ್ ರೂಪದಲ್ಲಿ ಇರುತ್ತವೆ — ಮತ್ತು ಆ ಫೈಲ್ ಈಗ ಪ್ರಪಂಚದಾದ್ಯಂತ ಹತ್ತಾರು ಸಾವಿರ ಹಾರ್ಡ್ ಡ್ರೈವ್‌ಗಳಲ್ಲಿದೆ. ನೀವು ಅದನ್ನು ಹಿಂಪಡೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ. ಅದನ್ನು ದೂರದಿಂದಲೇ ತೆಗೆದುಹಾಕಲು ಪ್ಯಾಚ್ ಅನ್ನು ಕಳುಹಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ವಿನಂತಿಗಳು ಹಾದುಹೋಗುವ ಯಾವುದೇ ಕೇಂದ್ರ ಸರ್ವರ್ ಇಲ್ಲ, ಅದನ್ನು ಚಲಾಯಿಸುವ ವ್ಯಕ್ತಿಯನ್ನು ಬಂಧಿಸುವ ಯಾವುದೇ ಸೇವಾ ನಿಯಮಗಳಿಲ್ಲ, ಉತ್ಪಾದನೆಯಾಗುತ್ತಿರುವುದನ್ನು ನೋಡಲು ಯಾವುದೇ ಕಂಪನಿಗೆ ಸಾಧ್ಯವಿಲ್ಲ, ಇನ್ನು ಅದನ್ನು ತಡೆಯುವುದು ದೂರದ ಮಾತು.

AI-ರಚಿತ ಅಶ್ಲೀಲತೆಯನ್ನು ನಿಯಂತ್ರಿಸುವ ಹೆಚ್ಚಿನ ಚರ್ಚೆಗಳು ಚೋಕ್‌ಪಾಯಿಂಟ್ (chokepoint) ಇದೆ ಎಂದು ಭಾವಿಸುತ್ತವೆ — ಅಂದರೆ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಒಂದು ಸ್ವಿಚ್ ಒತ್ತಿ ನಿರ್ದಿಷ್ಟ ವರ್ಗದ ವಿಷಯವನ್ನು ಮಾಯವಾಗಿಸುವಂತೆ. ಓಪನ್-ವೇಟ್ ಮಾದರಿಗಳನ್ನು ಅಂತಹ ಚೋಕ್‌ಪಾಯಿಂಟ್ ಇಲ್ಲದೆಯೇ ನಿರ್ಮಿಸಲಾಗಿದೆ. ರಚನೆಯು ಸಂಪೂರ್ಣವಾಗಿ ವ್ಯಕ್ತಿಯ ಸ್ವಂತ ಸಾಧನದಲ್ಲೇ ನಡೆಯುತ್ತದೆ, ಅವರು ಬಯಸಿದರೆ ಆಫ್‌ಲೈನ್‌ನಲ್ಲೂ ಮಾಡಬಹುದು, ಹೊರಗಿನ ಯಾವುದೇ ವೀಕ್ಷಕರಿಗೆ ಇದು ಕಾಣಿಸುವುದಿಲ್ಲ. ನಾನು ಈ ಮಾದರಿಗಳನ್ನು ಯಾವುದೇ ಇಂಟರ್ನೆಟ್ ಸಂಪರ್ಕವಿಲ್ಲದ ಲ್ಯಾಪ್‌ಟಾಪ್‌ನಲ್ಲಿ ಚಲಾಯಿಸಬಹುದು. ಬೇರೆ ಯಾರಾದರೂ ಹಾಗೆಯೇ ಮಾಡಬಹುದು.

ಸ್ಥಳೀಯ (local) ಮಾದರಿಗಳನ್ನು ಕಾನೂನುಬದ್ಧ ಕೆಲಸಕ್ಕಾಗಿ ನೈಜವಾಗಿ ಮೌಲ್ಯಯುತವಾಗಿಸುವ ಗುಣಲಕ್ಷಣವೂ ಇದೇ ಆಗಿದೆ — ವಿನಂತಿಗೆ ತಕ್ಕಂತೆ ಬಿಲ್ಲಿಂಗ್ ಇರುವುದಿಲ್ಲ, ಮುಚ್ಚಲ್ಪಡುವ ಅಥವಾ ನಿಯಮಗಳನ್ನು ಬದಲಾಯಿಸಬಹುದಾದ ಪೂರೈಕೆದಾರರ (vendor) ಮೇಲಿನ ಅವಲಂಬನೆ ಇರುವುದಿಲ್ಲ, ಸೂಕ್ಷ್ಮ ಡೇಟಾಗೆ ನಿಜವಾದ ಗೌಪ್ಯತೆ ಸಿಗುತ್ತದೆ. ಈ ತಂತ್ರಜ್ಞಾನವು ಕ್ಲೈಂಟ್ ಕೋಡ್ ಅನ್ನು ರಕ್ಷಿಸುವ ಡೆವಲಪರ್ ಮತ್ತು ಸಮ್ಮತಿಯಿಲ್ಲದ ಚಿತ್ರವನ್ನು ಸೃಷ್ಟಿಸುವ ಅಪರಿಚಿತ ವ್ಯಕ್ತಿಯ ನಡುವೆ ವ್ಯತ್ಯಾಸವನ್ನು ಗುರುತಿಸುವುದಿಲ್ಲ. ಹಾನಿಕಾರಕ ಬಳಕೆಯನ್ನು ಸಕ್ರಿಯಗೊಳಿಸದೆ ನೀವು ಪ್ರಯೋಜನಕಾರಿ ಬಳಕೆಯನ್ನು ಹೊಂದಲು ಸಾಧ್ಯವಿಲ್ಲ. ಇದು ಯಾರೋ ಪ್ಯಾಚ್ ಮಾಡಲು ಮರೆತ ದೋಷವಲ್ಲ (bug). ಇದು ತಂತ್ರಜ್ಞಾನವು ಹೇಗೆ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ ಎಂಬುದರ ಸಹಜ ಲಕ್ಷಣವಾಗಿದೆ.

ಗುರಿಯಾಗುತ್ತಿರುವ ಜನರು ಹೆಚ್ಚಾಗಿ ಮಕ್ಕಳು, ಪ್ರಸಿದ್ಧ ವ್ಯಕ್ತಿಗಳಲ್ಲ

ಡೀಪ್‌ಫೇಕ್‌ಗಳ (deepfakes) ಬಗೆಗಿನ ಸಾರ್ವಜನಿಕ ಗಮನವು ಹೆಚ್ಚಾಗಿ ಪ್ರಸಿದ್ಧ ವ್ಯಕ್ತಿಗಳು ಮತ್ತು ರಾಜಕಾರಣಿಗಳ ಮೇಲೆ ಕೇಂದ್ರೀಕೃತವಾಗಿದೆ, ಇದು ಸಮಸ್ಯೆಯು ದೂರದ ಮತ್ತು ಅಪರೂಪದ ಸಂಗತಿ ಎಂಬಂತೆ ಭಾಸವಾಗುವಂತೆ ಮಾಡುತ್ತದೆ. ಆದರೆ ವಾಸ್ತವಿಕ ಸ್ಥಿತಿಯು ಹೆಚ್ಚು ಸಾಮಾನ್ಯವಾಗಿದೆ ಮತ್ತು ನಮಗೆ ಹೆಚ್ಚು ಹತ್ತಿರವಾಗಿದೆ.

ಇಂಗ್ಲೆಂಡ್‌ನ ಶಿಕ್ಷಕರ ಸಮೀಕ್ಷೆಗಳಲ್ಲಿ ಗಮನಾರ್ಹ ಸಂಖ್ಯೆಯ ಶಿಕ್ಷಕರಿಗೆ ತಮ್ಮ ವಿದ್ಯಾರ್ಥಿಯೊಬ್ಬ ಸಹಪಾಠಿಯ ನಕಲಿ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳನ್ನು ರಚಿಸಲು ಈ ಉಪಕರಣಗಳನ್ನು ಬಳಸುತ್ತಿರುವುದು ಈಗಾಗಲೇ ತಿಳಿದಿದೆ ಎಂದು ಕಂಡುಬಂದಿದೆ. ಶಾಲೆಯಲ್ಲಿ ಹರಿಯುವ ಡೀಪ್‌ಫೇಕ್ ಅಶ್ಲೀಲತೆಯ ಹೆಚ್ಚಿನ ಭಾಗವು ಹದಿನಾಲ್ಕು ವರ್ಷಕ್ಕಿಂತ ಕಡಿಮೆ ವಯಸ್ಸಿನ ಮಕ್ಕಳನ್ನು — ಕೆಲವರು ಹನ್ನೊಂದು ವರ್ಷದಷ್ಟು ಚಿಕ್ಕವರನ್ನು — ಗುರಿಯಾಗಿಸುತ್ತದೆ ಎಂದು ಇತರ ಸಂಶೋಧನೆಗಳು ಸೂಚಿಸುತ್ತವೆ. ಪೆನ್ಸಿಲ್ವೇನಿಯಾ ಪ್ರೌಢಶಾಲೆಯಲ್ಲಿ ವ್ಯಾಪಕವಾಗಿ ವರದಿಯಾದ ಒಂದು ಪ್ರಕರಣದಲ್ಲಿ, ಒಬ್ಬನೇ ವಿದ್ಯಾರ್ಥಿ ಸೋಶಿಯಲ್ ಮೀಡಿಯಾದಿಂದ ತೆಗೆದ ಸಾಮಾನ್ಯ ಫೋಟೋಗಳನ್ನು ಬಳಸಿ ಐದು ಮಂದಿ ಸಹಪಾಠಿಗಳ ನಕಲಿ ಅಶ್ಲೀಲ ಚಿತ್ರಗಳನ್ನು ತಯಾರಿಸಿದ್ದನು. ವಿಶಾಲವಾದ ಹದಿಹರೆಯದವರ ಸಮೀಕ್ಷೆಗಳು ಅಮೆರಿಕದ ಹದಿಹರೆಯದವರಲ್ಲಿ ಹೆಚ್ಚಿನ ಭಾಗದ ಜನರು ಅಪ್ರಾಪ್ತರಾಗಿದ್ದಾಗ ಈ ರೀತಿ ಗುರಿಯಾದ ಯಾರನ್ನಾದರೂ ವೈಯಕ್ತಿಕವಾಗಿ ಬಲ್ಲರು ಎಂದು ಸೂಚಿಸುತ್ತವೆ.

ಮಕ್ಕಳ ಸುರಕ್ಷತೆಯ ಆಯಾಮವು ಇದು ತುರ್ತು ವಿಷಯವೇ ಎಂಬ ಉಳಿದ ಯಾವುದೇ ಚರ್ಚೆಯನ್ನು ಅಂತ್ಯಗೊಳಿಸಬೇಕಾಗಿದೆ. ಮಕ್ಕಳ ಲೈಂಗಿಕ ದೌರ್ಜನ್ಯ ವಸ್ತುವಿನ ಅಮೆರಿಕದ ಪ್ರಮುಖ ವರದಿ ವ್ಯವಸ್ಥೆಯನ್ನು ನಡೆಸುವ ಸಂಸ್ಥೆಯು AI-ರಚಿತ ವಿಷಯಕ್ಕೆ ಸಂಬಂಧಿಸಿದ ದೂರುಗಳಲ್ಲಿ ವರ್ಷದಿಂದ ವರ್ಷಕ್ಕೆ ಭಾರಿ ಏರಿಕೆಯನ್ನು ದಾಖಲಿಸಿದೆ. ಕನಿಷ್ಠ ಒಂದು ವಿದೇಶಿ "nudify" ಸೇವೆಯಿಂದ ಸೋರಿಕೆಯಾದ ಡೇಟಾದಲ್ಲಿ, ಅವುಗಳನ್ನು ರಚಿಸಲು ಬಳಸಿದ ಪ್ರಾಂಪ್ಟ್‌ಗಳ ಜೊತೆಗೆ ಹತ್ತಾರು ಸಾವಿರ ರಚಿತ ಚಿತ್ರಗಳನ್ನು ಸಂಗ್ರಹಿಸಿಡಲಾಗಿತ್ತು ಎಂಬ ವರದಿಯಿದೆ. ಇದು ಇನ್ನು ಮುಂದೆ ಕಾಲ್ಪನಿಕ ಅಪಾಯವಲ್ಲ — ಇದು ಈಗಾಗಲೇ ಸಂಭವಿಸಿದ ದಾಖಲಿತ ಮಾದರಿಯಾಗಿದೆ.

ಸಹಿಸಿಕೊಳ್ಳಲು ಅತ್ಯಂತ ಕಷ್ಟಕರವಾದ ವಿಷಯವೆಂದರೆ ಅಪರಾಧಿಗಳು ಎಷ್ಟು ಸಾಮಾನ್ಯರಾಗಿದ್ದಾರೆ ಎಂಬುದು: ಅವರು ಅತ್ಯಾಧುನಿಕ ವ್ಯಕ್ತಿಗಳಲ್ಲ, ಕೇವಲ ಫೋನ್ ಹೊಂದಿರುವ ಬೇಸರಗೊಂಡ ಹದಿಹರೆಯದವರು ಮತ್ತು ಇತ್ತೀಚಿನವರೆಗೂ ಮುಖ್ಯವಾಹಿನಿಯ ಆಪ್ ಸ್ಟೋರ್‌ಗಳಲ್ಲಿ ಸುಲಭವಾಗಿ ಸಿಗುತ್ತಿದ್ದ ಆಪ್ ಹೊಂದಿರುವವರು ಅಷ್ಟೇ. ಇದನ್ನು ಕಷ್ಟಕರವಾಗಿಸುತ್ತಿದ್ದ ತಡೆಯು ಕರಾರುವಾಕ್ಕಾಗಿ ಕಣ್ಮರೆಯಾದ ತಡೆಯೇ ಆಗಿದೆ.

ಪತ್ತೆಹಚ್ಚುವಿಕೆಯು ರಕ್ಷಕರು ನಿರಂತರವಾಗಿ ಸೋಲುತ್ತಿರುವ ರೇಸ್ ಆಗಿದೆ

ನೆಮ್ಮದಿ ನೀಡುವ ಎದುರು ವಾದವೆಂದರೆ, ನಕಲಿಗಳು ನಂಬಲರ್ಹವಾಗುತ್ತಾ ಹೋದರೆ, ಪತ್ತೆಹಚ್ಚುವ ಉಪಕರಣಗಳು ವೇಗವನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತವೆ ಎಂಬುದು. ಸಾಕ್ಷ್ಯಗಳು ಬೇರೆಯದೇ ಸೂಚಿಸುತ್ತವೆ — ಇದು ಟ್ರೆಡ್‌ಮಿಲ್ ಇದ್ದಂತೆ, ಅಂತಿಮ ಗೆರೆಯಲ್ಲ.

ಯಾವ ಡಿಟೆಕ್ಟರ್ ಕೂಡ ದೀರ್ಘಕಾಲದವರೆಗೆ ಸ್ಥಿರವಾದ ನಿಖರತೆಯ ದಾಖಲೆಯನ್ನು ಕಾಯ್ದುಕೊಳ್ಳುವುದಿಲ್ಲ, ಏಕೆಂದರೆ ಪರಿಸ್ಥಿತಿಗಳು ಬದಲಾದ ಕ್ಷಣದಲ್ಲೇ ಕಾರ್ಯಕ್ಷಮತೆ ಕುಗ್ಗುತ್ತದೆ. ಸ್ವಚ್ಛ ಬೆಂಚ್‌ಮಾರ್ಕ್ ಡೇಟಾಸೆಟ್‌ನಲ್ಲಿ ಉತ್ತಮವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುವ ಮಾದರಿಯು ನೈಜ-ಪ್ರಪಂಚದ ಚಿತ್ರಗಳ ಮೇಲೆ ಗಮನಾರ್ಹವಾಗಿ ಕಳಪೆಯಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ — ಅವು ಸಂಕುಚಿತಗೊಳ್ಳುತ್ತವೆ (compressed), ಕ್ರಾಪ್ ಆಗುತ್ತವೆ, ಸ್ಕ್ರೀನ್‌ಶಾಟ್ ಆಗುತ್ತವೆ ಮತ್ತು ಮರು-ಹಂಚಲ್ಪಡುತ್ತವೆ, ಪ್ರತಿಯೊಂದು ಹಂತವೂ ಡಿಟೆಕ್ಟರ್‌ಗಳು ಅವಲಂಬಿಸಿರುವ ಸೂಕ್ಷ್ಮ ಗುರುತುಗಳನ್ನುಳಿಸದೆ ಅಳಿಸಿಹಾಕುತ್ತದೆ. ಇನ್ನಷ್ಟು ಕೆಟ್ಟ ವಿಷಯವೆಂದರೆ, ಇದು ವಿನ್ಯಾಸದ ಪ್ರಕಾರವೇ ಒಂದು ಎದುರಾಳಿ ಚಕ್ರವಾಗಿದೆ: ಸಂಶೋಧಕರು ಪತ್ತೆಹಚ್ಚುವ ವಿಧಾನಗಳನ್ನು ಪ್ರಕಟಿಸುತ್ತಾರೆ, ಜನರೇಟಿವ್ ಮಾದರಿಗಳನ್ನು ನಿರ್ಮಿಸುವ ಜನರು ಆ ಪ್ರಬಂಧಗಳನ್ನು ಓದುತ್ತಾರೆ, ಮತ್ತು ಮುಂದಿನ ಪೀಳಿಗೆಯ ಮಾದರಿಗಳನ್ನು ಅವುಗಳನ್ನು ತೋರಿಸಿಕೊಟ್ಟ ಸಣ್ಣ ಗುರುತುಗಳನ್ನು ಕರಾರುವಾಕ್ಕಾಗಿ ತೆಗೆದುಹಾಕಲು ಟ್ಯೂನ್ ಮಾಡಲಾಗುತ್ತದೆ.

ರಕ್ಷಕರು ಹಿಂದುಳಿಯಲು ಒಂದು ರಚನಾತ್ಮಕ ಕಾರಣವಿದೆ. ಹಾನಿ ಉಂಟುಮಾಡಲು ಜನರೇಟರ್ ಡಿಟೆಕ್ಟರ್ ಅನ್ನು ಒಮ್ಮೆ ಮಾತ್ರ ಮೂರ್ಖಗೊಳಿಸಿದರೆ ಸಾಕು. ಆದರೆ ಡಿಟೆಕ್ಟರ್ ನೈಜ ಫೋಟೋಗಳನ್ನು ತಪ್ಪಾಗಿ ಗುರುತಿಸದೆ, ಪ್ರತಿಯೊಂದು ಮಾದರಿಯಲ್ಲಿ ಮತ್ತು ಚಿತ್ರವನ್ನು ಬದಲಾಯಿಸಬಹುದಾದ ಪ್ರತಿಯೊಂದು ರೀತಿಯಲ್ಲೂ ಬಹುತೇಕ ಎಲ್ಲಾ ಸಮಯದಲ್ಲೂ ಸರಿಯಾಗಿರಬೇಕು. ಇವು ಹೋಲಿಸಬಹುದಾದ ಹೊರೆಗಳಲ್ಲ — ಒಂದು ಕಡೆ ಒಂದೇ ಒಂದು ಯಶಸ್ಸಿನ ಅಗತ್ಯವಿದೆ, ಇನ್ನೊಂದು ಕಡೆ ಬಹುತೇಕ ಪರಿಪೂರ್ಣ ಮತ್ತು ನಿರಂತರ ನಿಖರತೆಯ ಅಗತ್ಯವಿದೆ. ಈ ಕ್ಷೇತ್ರದ ಪ್ರತಿಯೊಂದು ಪ್ರಾಮಾಣಿಕ ಮೌಲ್ಯಮಾಪನವೂ ಒಂದೇ ತೀರ್ಮಾನಕ್ಕೆ ಬರುತ್ತದೆ: ಪತ್ತೆಹಚ್ಚುವಿಕೆಯು ಎಂದಿಗೂ ಶಾಶ್ವತವಾಗಿ ಗೆಲ್ಲುವುದಿಲ್ಲ, ಮುಂದಿನ ಮಾದರಿ ಬಿಡುಗಡೆಯು ಅಳಿಸಿಹಾಕುವ ತಾತ್ಕಾಲಿಕ ಮುನ್ನಡೆಯನ್ನು ಮಾತ್ರ ಅದು ಕಾಯ್ದುಕೊಳ್ಳುತ್ತದೆ.

ಕಾನೂನು ತಪ್ಪಾದ ಹಂತವನ್ನು ಗುರಿಯಾಗಿಸುತ್ತದೆ

ಇದರರ್ಥ ಏನೂ ಮಾಡುತ್ತಿಲ್ಲ ಎಂದಲ್ಲ. ಯುನೈಟೆಡ್ ಸ್ಟೇಟ್ಸ್‌ನಲ್ಲಿ, 2025 ರಲ್ಲಿ ಕಾನೂನಾಗಿ ಸಹಿ ಮಾಡಲಾದ Take It Down Act — ನೈಜ, ಗುರುತಿಸಬಹುದಾದ ವ್ಯಕ್ತಿಗಳ AI-ರಚಿತ ನಕಲಿಗಳು ಸೇರಿದಂತೆ ಸಮ್ಮತಿಯಿಲ್ಲದ ಆಪ್ತ ಚಿತ್ರಗಳನ್ನು ಪ್ರಕಟಿಸುವುದನ್ನು ಅಪರಾಧವೆಂದು ಪರಿಗಣಿಸುತ್ತದೆ ಮತ್ತು ಮಾನ್ಯವಾದ ವಿನಂತಿಯ 48 ಗಂಟೆಗಳ ಒಳಗೆ ಫ್ಲ್ಯಾಗ್ ಮಾಡಿದ ವಿಷಯವನ್ನು ತೆಗೆದುಹಾಕಲು ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಿಗೆ ಅಗತ್ಯಪಡಿಸುತ್ತದೆ. ನಿಯಮಾವಳಿಗಳಿಗೆ ಬದ್ಧವಾದ ಟೇಕ್‌ಡೌನ್ ವ್ಯವಸ್ಥೆಗಳನ್ನು ನಿರ್ಮಿಸಲು ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳಿಗೆ 2026 ರ ಮಧ್ಯದವರೆಗೆ ಸಮಯವಿತ್ತು, ಮತ್ತು ಕಾನೂನಿನ ಅಡಿಯಲ್ಲಿ ಮೊದಲ ಶಿಕ್ಷೆ ಈಗಾಗಲೇ ಸಂಭವಿಸಿದೆ. ಹೆಚ್ಚಿನ ಅಮೆರಿಕನ್ ರಾಜ್ಯಗಳು ಈಗ ಸ್ಪಷ್ಟವಾದ ಡೀಪ್‌ಫೇಕ್‌ಗಳನ್ನು ಪರಿಹರಿಸುವ ತಮ್ಮದೇ ಆದ ಶಾಸನಗಳನ್ನು ಹೊಂದಿವೆ. ಆ ಪ್ರಗತಿಯು ನಿಜವಾದದ್ದು ಮತ್ತು ಒಪ್ಪಿಕೊಳ್ಳಲು ಅರ್ಹವಾಗಿದೆ.

ಆದರೆ ಕಾನೂನು ವಾಸ್ತವವಾಗಿ ಏನನ್ನು ನಿಯಂತ್ರಿಸುತ್ತದೆ ಎಂಬುದನ್ನು ನೋಡಿ: ಪ್ರಕಟಣೆ ಮತ್ತು ವಿತರಣೆ — ಅಂದರೆ ವಿಷಯವು ಸಾಧನದಿಂದ ಹೊರಟು ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಅನ್ನು ತಲುಪುವ ಕ್ಷಣ. ಒತ್ತಡ ಹೇರಲು ಇದು ಸಮಂಜಸವಾದ ಸ್ಥಳವಾಗಿದೆ, ಏಕೆಂದರೆ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್‌ಗಳು ನಿಜವಾದ ಚೋಕ್‌ಪಾಯಿಂಟ್ ಆಗಿ ಉಳಿದಿವೆ. ಕಾನೂನಿಗೆ ಮುಟ್ಟಲು ಸಾಧ್ಯವಿಲ್ಲದ್ದು ಎಂದರೆ ಸ್ವತಃ ರಚನೆಯ ಪ್ರಕ್ರಿಯೆಯನ್ನು. ಯಾರೋ ಒಬ್ಬರ ಲ್ಯಾಪ್‌ಟಾಪ್‌ನಲ್ಲಿ ಕುಳಿತಿರುವ ಮಾಡೆಲ್ ಫೈಲ್ ಅನ್ನು, ಅಥವಾ ಪ್ಲಾಟ್‌ಫಾರ್ಮ್ ಪರಿಶೀಲನೆಯನ್ನು ಎಂದಿಗೂ ಪ್ರಚೋದಿಸದ ಮೆಸೇಜಿಂಗ್ ಆಪ್ ಮೂಲಕ ಖಾಸಗಿಯಾಗಿ ರಚಿಸಲಾದ ಮತ್ತು ಹಂಚಿಕೊಳ್ಳಲಾದ ಚಿತ್ರವನ್ನು, ಅಥವಾ ಗ್ರೂಪ್ ಚಾಟ್‌ನಲ್ಲಿ ರವಾನೆಯಾಗುವ ಫೋಟೋವನ್ನು ಇದು ತಲುಪುವುದಿಲ್ಲ. ಟೇಕ್‌ಡೌನ್ ಎನ್ನುವುದು ಹಾನಿಯು ಈಗಾಗಲೇ ಸಾರ್ವಜನಿಕವಾದ ನಂತರ ಮಾತ್ರ ಸಕ್ರಿಯಗೊಳ್ಳುವ ಪರಿಹಾರವಾಗಿದೆ. ತಮ್ಮ ಸಹಪಾಠಿಗಳು ಈಗಾಗಲೇ ನಕಲಿ ಚಿತ್ರವನ್ನು ನೋಡಿರುವ ವಿದ್ಯಾರ್ಥಿಗೆ, ವೇಗದ ತೆಗೆದುಹಾಕುವಿಕೆಯ ಕಾಲಾವಧಿಯು ಈಗಾಗಲೇ ಸಂಭವಿಸಿದ ವಿಷಯವನ್ನು ರದ್ದುಗೊಳಿಸುವುದಿಲ್ಲ.

ಅಷ್ಟಕ್ಕೇ ಕಾನೂನು ನಿರುಪಯುಕ್ತ ಎಂದಲ್ಲ — ಈ ವಿಷಯವನ್ನು ವಿತರಿಸುವ ವೆಚ್ಚವನ್ನು ಹೆಚ್ಚಿಸುವುದು ಮುಖ್ಯವಾಗಿದೆ. ಆದರೆ ಟೇಕ್‌ಡೌನ್ ಶಾಸನಗಳನ್ನು ಪರಿಹಾರವೆಂದು ಪರಿಗಣಿಸುವುದು ನಿಯಂತ್ರಿಸಲ್ಪಟ್ಟ ಒಂದು ಹಂತವನ್ನು ನಿಯಂತ್ರಿಸಲ್ಪಡದ ವಿಶಾಲವಾದ ಹಂತದೊಂದಿಗೆ ಗೊಂದಲಗೊಳಿಸುವುದಾಗಿದೆ. ಯಾವುದೇ ಟೇಕ್‌ಡೌನ್ ವ್ಯವಸ್ಥೆಯ ತಲುಪುವಿಕೆಗಿಂತ ಕೆಳಗೆ ರಚನೆಯು ನಡೆಯುತ್ತದೆ, ಮತ್ತು ಕರಾರುವಾಕ್ಕಾಗಿ ಆ ಹಂತವೇ ಈಗಾಗಲೇ ನಿಯಂತ್ರಣ ಮೀರಿ ಬೆಳೆದಿದೆ.

"ತಡೆಯಲು ಅಸಾಧ್ಯ" ಎಂಬುದು ಏಕೆ ಪ್ರಾಮಾಣಿಕ ಉತ್ತರವಾಗಿದೆ

ಇದು ಕೈಚೆಲ್ಲುವ ಕರೆಯಲ್ಲ — ಇದು ಸಮಸ್ಯೆಯನ್ನು ನಿಖರವಾಗಿ ರೋಗನಿರ್ಣಯ ಮಾಡುವ ಕರೆಯಾಗಿದೆ, ಏಕೆಂದರೆ ತಪ್ಪು ರೋಗನಿರ್ಣಯವು ತಪ್ಪು ಪ್ರತಿಕ್ರಿಯೆಗೆ ಕಾರಣವಾಗುತ್ತದೆ.

ಈಗಾಗಲೇ ಸಾವಿರಾರು ಯಂತ್ರಗಳಿಗೆ ಕಾಪಿ ಮಾಡಲಾದ ಮಾದರಿಯನ್ನು ನೀವು ಹಿಂಪಡೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ. ನೈಜ ಚಿತ್ರ ರಚನೆಯನ್ನು (photorealistic generation) ಮತ್ತೆ ಕಷ್ಟಕರವಾಗಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ. ಶಾಶ್ವತವಾಗಿ ಮುಂಚೂಣಿಯಲ್ಲಿರುವ ಡಿಟೆಕ್ಟರ್ ಅನ್ನು ನೀವು ನಿರ್ಮಿಸಲು ಸಾಧ್ಯವಿಲ್ಲ, ಮತ್ತು ಯಾರದ್ದೋ ಸ್ವಂತ ಯಂತ್ರಾಂಶದಲ್ಲಿ ಖಾಸಗಿಯಾಗಿ ನಡೆಯುವ ಕಂಪ್ಯೂಟೇಶನ್ ಅನ್ನು ತಲುಪುವ ಕಾನೂನನ್ನು ನೀವು ಬರೆಯಲು ಸಾಧ್ಯವಿಲ್ಲ. ನೈಜವಾಗಿ ಸಹಾಯ ಮಾಡುವ ಪ್ರತಿಯೊಂದು ಮಧ್ಯಸ್ಥಿಕೆಯು ರಚನೆಯ ಪ್ರಕ್ರಿಯೆಯ ನಂತರವೇ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ: ವೇಗವಾದ ಮತ್ತು ಹೆಚ್ಚು ಸ್ಥಿರವಾದ ಟೇಕ್‌ಡೌನ್‌ಗಳು, ವಿತರಣೆಗೆ ನಿಜವಾದ ಕಾನೂನು ಪರಿಣಾಮಗಳು, ಈ ಉದ್ದೇಶಕ್ಕಾಗಿ ನಿರ್ಮಿಸಲಾದ ಆಪ್‌ಗಳ ವಿರುದ್ಧ ಆಪ್ ಸ್ಟೋರ್‌ಗಳು ಧೋರಣೆಗಳನ್ನು ಜಾರಿಗೊಳಿಸುವುದು, ಮತ್ತು ಸ್ಕ್ರೀನ್ ಮೂಲಕ ಬರುವ ಇತರ ಹಾನಿಗಳನ್ನು ಎದುರಿಸಲು ಕಲಿತಂತೆಯೇ ಶಾಲೆಗಳು ಈ ಬಗ್ಗೆ ಮಕ್ಕಳೊಂದಿಗೆ ಪ್ರಾಮಾಣಿಕ ಸಂಭಾಷಣೆ ನಡೆಸುವುದು. ಇವುಗಳನ್ನು ಮಾಡುವುದು ಯೋಗ್ಯವಾಗಿದೆ — ಆದರೆ ಇವು ಹಾನಿ ತಗ್ಗಿಸುವಿಕೆ (harm reduction) ಅಷ್ಟೇ, ತಡೆಗಟ್ಟುವಿಕೆ (prevention) ಅಲ್ಲ.

ಈ ತಂತ್ರಜ್ಞಾನವು ಅಪಾಯಕಾರಿ ಎಂದು ಎಚ್ಚರಿಸುವ ಪ್ರಬಂಧಗಳು ಅಪಾಯವನ್ನು ಸರಿಯಾಗಿಯೇ ಗ್ರಹಿಸಿವೆ. ಆದರೆ ಅವು ಎಲ್ಲಿ ತಪ್ಪುತ್ತವೆ ಎಂದರೆ ಇಂದಿಗೂ ಪರಿಹಾರ ಲಭ್ಯವಿದೆ ಎಂದು ಭಾವಿಸುವುದರಲ್ಲಿ. ಉಪಕರಣಗಳು ಈಗಾಗಲೇ ಲಕ್ಷಾಂತರ ಸಾಧನಗಳಲ್ಲಿ ಹಂಚಲ್ಪಟ್ಟಿವೆ. ಒಮ್ಮೆ ಜನರನ್ನು ರಕ್ಷಿಸಿದ ತಡೆಯು ಕಣ್ಮರೆಯಾಗಿದೆ, ಮತ್ತು ಅದು ಮತ್ತೆ ಹಿಂತಿರುಗುವುದಿಲ್ಲ. ಅಸಹ್ಯಕರ ಸತ್ಯವೇನೆಂದರೆ, ಪ್ರತಿಯೊಬ್ಬರೂ ತಡೆಯಬಹುದು ಎಂದು ಭಾವಿಸಿದ ಭಾಗವು ಈಗಾಗಲೇ ಸಂಭವಿಸಿಬಿಟ್ಟಿದೆ — ಸಾರ್ವಜನಿಕ ಚರ್ಚೆಯು ಇದು ಬರುತ್ತದೆಯೇ ಎಂದು ಕೇಳುತ್ತಿರುವಾಗಲೇ ಅತ್ಯಂತ ಶಾಂತವಾಗಿ.