AI-సృష్టించిన నగ్న చిత్రాలను ఎందుకు నిరోధించలేము — ఒక బిల్డర్ దృష్టికోణం

గతంలో ప్రజలను కాపాడిన ఆటంకం ఇప్పుడు లేకుండా పోయింది

కొన్నేళ్ల క్రితం, ఒక నమ్మదగిన నగ్న చిత్రాన్ని సృష్టించాలంటే నిజంగా చాలా శ్రమించాల్సి వచ్చేది — మంచి GPU, నాణ్యత లేని సాఫ్ట్‌వేర్‌తో ఓపిక, మరియు అసంపూర్ణ ఫలితాలను భరించే సామర్థ్యం అవసరమయ్యేవి. ఆ శ్రమ ఒక సహజమైన ఫిల్టర్‌గా పనిచేసి, తీవ్రమైన ఉద్దేశం లేని వారిని దూరంగా ఉంచేది. ఆ ఫిల్టర్ ఇప్పుడు ఇక ఎంతమాత్రం లేదు.

నేటి ఓపెన్ ఇమేజ్-జనరేషన్ మోడల్స్ సాధారణ వినియోగదారుల హార్డ్‌వేర్‌లోనే ఫొటోరియలిస్టిక్ అవుట్‌పుట్‌ను ఉత్పత్తి చేస్తున్నాయి. కమ్యూనిటీ మోడల్ రిపోజిటరీలలో ఉన్న ఒక్కో చెక్‌పాయింట్ పది లక్షలకు పైగా డౌన్‌లోడ్ చేయబడింది, మరియు ప్రసిద్ధ బేస్ మోడల్స్‌పై ఆధారపడి తయారు చేసిన అసభ్యకర కంటెంట్ వేరియంట్‌లను లక్షలాది సార్లు డౌన్‌లోడ్ చేసుకున్నారు. వీటిపై అదనంగా, ఔత్సాహికులు రూపొందించిన లెక్కలేనన్ని చిన్న "fine-tune" ఫైళ్లు ఉన్నాయి; ఇవి అవుట్‌పుట్‌ను ఒక నిర్దిష్ట రూపాంతరం, శరీర రకం లేదా నిజమైన వ్యక్తి రూపానికి అనుగుణంగా మారుస్తాయి. అత్యంత విస్తృతంగా ఉపయోగించే కొన్ని బేస్ మోడల్స్ మిలియన్ల కొద్దీ చిత్రాలపై శిక్షణ పొంది, ఎలాంటి ఇన్-బిల్ట్ కంటెంట్ నిబంధనలు లేకుండా వస్తాయి. దీనికి ఇకపై ఎటువంటి అధునాతన హార్డ్‌వేర్ అవసరం లేదు — కొన్నేళ్ల క్రితం నాటి మిడ్-టైర్ గేమింగ్ ల్యాప్‌టాప్ సరిపోతుంది.

ఇక ప్యాకేజ్డ్ వెర్షన్లు కూడా ఉన్నాయి: ఒకే బటన్ వెనుక ఈ సాంకేతికత మొత్తాన్ని దాచే তথాకథిత "nudify" యాప్‌లు. దుస్తులతో ఉన్న ఫొటోను అప్‌లోడ్ చేసి, కొన్ని సెకన్లు వేచి చూస్తే, నకిలీ నగ్న చిత్రం లభిస్తుంది. ప్రధాన యాప్ స్టోర్‌లలో ఇటువంటి పదుల కొద్దీ యాప్‌లు ఉన్నాయని, వాటి మొత్తం డౌన్‌లోడ్‌లు వందల మిలియన్లలో ఉన్నాయని ఇటీవలి పారదర్శక నివేదికలు లెక్క తేల్చాయి. ఆకర్షణీయమైన ఇంటర్‌ఫేస్ మరియు పేమెంట్‌ వాల్‌ను పక్కన పెడితే, ఇది ఎవరైనా ఇంట్లోనే రన్ చేయగల అదే ఓపెన్-సోర్స్ డిఫ్యూజన్ సాంకేతికత.

ఓపెన్ వెయిట్స్ అంటే ఆఫ్ చేసే స్విచ్ ఏదీ లేదని అర్థం

చాలా ఆందోళనకర విశ్లేషణాత్మక వ్యాసాలలో ఉపేక్షించబడే ప్రధానమైన అంశం ఏమిటంటే: ఈ మోడల్స్ ఓపెన్ వెయిట్స్. ఒకసారి విడుదలయ్యాక, ఒక మోడల్ యొక్క పారామితులు ఒక ఫైల్‌గా ఉండిపోతాయి — ఆ ఫైల్ ఇప్పుడు ప్రపంచవ్యాప్తంగా పదుల వేల హార్డ్ డ్రైవ్‌లలో ఉంది. మీరు దానిని వెనక్కి తీసుకోలేరు. దానిని రిమోట్‌గా తొలగించడానికి ప్యాచ్‌ను పంపలేరు. అభ్యర్థనలు దాటే కేంద్ర సర్వర్ ఏదీ లేదు, దానిని ఉపయోగించే వ్యక్తికి వర్తించే నిబంధనలు (terms of service) లేవు, ఆపే విషయం పక్కన పెడితే అసలు ఏమి సృష్టించబడుతుందో కూడా చూడగల కంపెనీ ఏదీ లేదు.

AI-సృష్టించిన పోర్నోగ్రఫీని నియంత్రించడంపై జరిగే చాలా చర్చలు ఒక నియంత్రణ కేంద్రం (chokepoint) ఉందనే అంచనాతో సాగుతాయి — ఒక ప్లాట్‌ఫారమ్ స్విచ్ వేసి ఒక నిర్దిష్ట కంటెంట్‌ను అదృశ్యం చేసే విధానం లాగా. ఓపెన్-వెయిట్ మోడల్స్ ఆ నియంత్రణ కేంద్రం లేకుండానే రూపొందించబడ్డాయి. కంటెంట్ సృష్టి పూర్తిగా ఒకరి స్వంత పరికరంలోనే జరుగుతుంది, వారు కోరుకుంటే ఆఫ్‌లైన్‌లో, బయటి పరిశీలకులకు కనపడకుండా జరుగుతుంది. నేను ఇంటర్నెట్ కనెక్షన్ అసలు లేకుండా ల్యాప్‌టాప్‌లో ఈ మోడల్స్‌ను రన్ చేయగలను. ఎవరైనా కూడా అలాగే చేయగలరు.

చట్టబద్ధమైన పనులకు లోకల్ మోడల్స్‌ను నిజంగా విలువైనవిగా మార్చే గుణం కూడా ఇదే — ప్రతి అభ్యర్థనకు ఛార్జీలు ఉండవు, మూసివేసే లేదా నిబంధనలను మార్చే వెండర్‌పై ఆధారపడాల్సిన అవసరం ఉండదు, సున్నితమైన డేటాకు నిజమైన గోప్యత లభిస్తుంది. ఒక డెవలపర్ క్లయింట్ కోడ్‌ను రక్షించుకోవడానికి మరియు ఒక అపరిచితుడు అనుమతి లేని చిత్రాన్ని సృష్టించడానికి మధ్య ఈ సాంకేతికత తేడాను చూపదు. హానికరమైన వినియోగాన్ని అనుమతించకుండా ప్రయోజనకరమైన వినియోగాన్ని మాత్రమే పొందడం సాధ్యం కాదు. ఇది ఎవరైనా ప్యాచ్ చేయడం మర్చిపోయిన బగ్ కాదు. సాంకేతికత పనిచేసే విధానంలోనే ఉన్న ఒక నైసర్గిక లక్షణం.

లక్ష్యంగా చేసుకుంటున్న వారు ఎక్కువగా పిల్లలే, సెలబ్రిటీలు కాదు

డీప్‌ఫేక్‌లపై ప్రజల దృష్టి ఎక్కువగా సెలబ్రిటీలు మరియు రాజకీయ నాయకులపైనే కేంద్రీకృతమైంది, దీనివల్ల ఈ సమస్య చాలా దూరంగా మరియు అరుదుగా ఉన్నట్లు అనిపిస్తుంది. కానీ వాస్తవిక పరిస్థితి చాలా సాధారణమైనది మరియు మనకు చాలా దగ్గరగా ఉన్నది.

ఇంగ్లాండ్‌లోని ఉపాధ్యాయుల సర్వేలలో, కొంతమంది విద్యార్థులు తమ సహచరుల నకిలీ అసభ్య చిత్రాలను సృష్టించడానికి ఈ టూల్స్‌ను ఉపయోగిస్తున్నట్లు తమకు ఇప్పటికే తెలుసని గణనీయమైన సంఖ్యలో నివేదించారు. పాఠశాలల్లో ప్రచారంలో ఉన్న డీప్‌ఫేక్ పోర్నోగ్రఫీలో అత్యధిక భాగం పద్నాలుగేళ్ల లోపు పిల్లలను — కొందరు పదకొండేళ్ల చిన్నపిల్లలను కూడా లక్ష్యంగా చేసుకుంటున్నట్లు ఇతర పరిశోధనలు సూచిస్తున్నాయి. పెన్సిల్వేనియాలోని ఒక హైస్కూల్‌లో విస్తృతంగా నమోదైన ఒక సంఘటనలో, ఒక విద్యార్థి సోషల్ మీడియా నుండి తీసిన సాధారణ ఫొటోలను ఉపయోగించి ఐదుగురు సహచరుల నకిలీ అసభ్య చిత్రాలను సృష్టించాడు. అమెరికన్ యుక్తవయస్కులపై జరిపిన సర్వేలు, మైనర్‌గా ఉన్నప్పుడు ఈ విధంగా లక్ష్యంగా చేసుకున్న ఎవరైనా తమకు వ్యక్తిగతంగా తెలుసని గణనీయమైన సంఖ్యలో సూచిస్తున్నాయి.

పిల్లల భద్రతా కోణమే ఇది అత్యవసరమైనదా కాదా అనే దానిపై మిగిలి ఉన్న చర్చలన్నింటినీ ముగించాలి. పిల్లల లైంగిక వేధింపుల మెటీరియల్ కోసం ప్రధాన U.S. రిపోర్టింగ్ వ్యవస్థను నడుపుతున్న సంస్థ, AI-సృష్టించిన కంటెంట్‌కు సంబంధించిన నివేదికలలో ఏటికేడాది భారీ పెరుగుదలను నమోదు చేసింది. కనీసం ఒక విదేశీ "nudify" సర్వీస్ నుండి లీక్ అయిన డేటాలో, వాటిని సృష్టించడానికి ఉపయోగించిన ప్రాంప్ట్‌లతో పాటు పదుల వేల సంఖ్యలో తయారు చేసిన చిత్రాలు నిల్వ చేయబడి ఉన్నట్లు సమాచారం. ఇది ఇక ఎంతమాత్రం ఊహాజనిత ప్రమాదం కాదు — ఇది ఇప్పటికే జరిగిన దాని యొక్క ఆధారపూర్వకమైన సరళి.

అత్యంత ఆందోళనకరమైన విషయం ఏమిటంటే, ఈ నేరాలకు పాల్పడేవారు ఎంత సాధారణంగా ఉంటారు అనేది: వారు అధునాతన హ్యాకర్లు కారు, కేవలం ఒక ఫోన్ మరియు ఇటీవలి వరకు ప్రధాన యాప్ స్టోర్‌లలో సులభంగా లభించే ఒక యాప్‌ను కలిగి ఉన్న ఒక ఖాళీగా ఉన్న యుక్తవయస్కుడు మాత్రమే. గతంలో దీనిని కష్టతరం చేసిన అడ్డంకి ఏదనగా, సరిగ్గా అదృశ్యమైన ఆ అడ్డంకి మాత్రమే.

గుర్తించడం (Detection) అనేది రక్షకులు వరుసగా ఓడిపోతున్న పరుగుపందెం

నకిలీలు నమ్మదగినవిగా మారితే, వాటిని గుర్తించే టూల్స్ కూడా సమానంగా పురోగమిస్తాయని చెప్పే ఓదార్పు ఇచ్చే ప్రతివాదం ఒకటుంది. కానీ ఆధారాలు వేరేలా సూచిస్తున్నాయి — ఇది ఒక ట్రెడ్‌మిల్ లాంటిది, ముగింపు రేఖ కాదు.

ఏ డిటెక్టర్ కూడా ఎక్కువ కాలం స్థిరమైన ఖచ్చితత్వ రికార్డును కలిగి ఉండదు, ఎందుకంటే పరిస్థితులు మారిన నిమిషంలో పనితీరు తగ్గుతుంది. శుభ్రమైన బెంచ్‌మార్క్ డేటాసెట్‌పై బాగా పనిచేసే మోడల్, నిజ-ప్రపంచ చిత్రాలపై గుర్తించదగినంత ఘోరంగా పనిచేస్తుంది — ఎందుకంటే అవి కంప్రెస్ అవుతాయి, క్రాప్ అవుతాయి, స్క్రీన్‌షాట్‌లు తీయబడతాయి మరియు తిరిగి షేర్ చేయబడతాయి, ప్రతి దశ డిటెక్టర్లు ఆధారపడే సూక్ష్మమైన సంకేతాలను తుడిచిపెడుతుంది. ఇంకా ఘోరమైన విషయం ఏమిటంటే, ఇది రూపొందించిన విధానంలోనే ఒక ప్రత్యర్థి సైకిల్ (adversarial loop): పరిశోధకులు గుర్తింపు పద్ధతులను ప్రచురిస్తారు, జెనరేటివ్ మోడల్స్‌ను నిర్మించే వ్యక్తులు ఆ పత్రాలను చదువుతారు, మరియు తదుపరి తరం మోడల్స్ తమను పట్టిచ్చే ఆ సంకేతాలను సరిగ్గా తొలగించడానికి ట్యూన్ చేయబడతాయి.

రక్షకులు వెనుకబడి ఉండటానికి ఒక నిర్మాణపరమైన కారణం ఉంది. హాని జరగడానికి ఒక జెనరేటర్ డిటెక్టర్‌ను ఒక్కసారి మోసం చేస్తే సరిపోతుంది. కానీ ఒక డిటెక్టర్ ప్రతి మోడల్‌లోనూ మరియు ఒక చిత్రాన్ని మార్చే ప్రతి విధానంలోనూ, నిజమైన ఫొటోలను పొరపాటుగా ఫ్లాగ్ చేయకుండా దాదాపు ప్రతిసారీ సరిగ్గా ఉండాలి. అవి పోల్చదగిన భారాలు కావు — ఒక వైపు ఒకే ఒక్క విజయం అవసరం, మరోవైపు దాదాపు ఖచ్చితమైన మరియు నిరంతర ఖచ్చితత్వం అవసరం. ఈ రంగంపై జరిపే ప్రతి నిజాయితీగల అంచనా ఒకే ముగింపుకు చేరుకుంటుంది: గుర్తింపు (detection) ఎన్నడూ శాశ్వతంగా గెలవదు, అది తదుపరి మోడల్ విడుదల తుడిచిపెట్టే తాత్కాలిక ఆధిక్యాన్ని మాత్రమే కలిగి ఉంటుంది.

చట్టం తప్పుడు పొరను (layer) లక్ష్యంగా చేసుకుంటోంది

దీనర్థం ఏమీ చేయడం లేదని కాదు. యునైటెడ్ స్టేట్స్‌లో, 2025లో చట్టంగా సంతకం చేయబడిన Take It Down Act — నిజమైన, గుర్తించదగిన వ్యక్తుల AI-సృష్టించిన నకిలీలతో సహా అనుమతి లేని వ్యక్తిగత చిత్రాలను ప్రచురించడాన్ని నేరంగా పరిగణిస్తుంది మరియు చెల్లుబాటు అయ్యే అభ్యర్థన వచ్చిన 48 గంటల్లోగా ఫ్లాగ్ చేసిన మెటీరియల్‌ను తొలగించాలని ప్లాట్‌ఫారమ్‌లను కోరుతుంది. నిబంధనలకు అనుగుణంగా టేక్‌డౌన్ సిస్టమ్‌లను నిర్మించడానికి ప్లాట్‌ఫారమ్‌లకు 2026 మధ్య వరకు సమయం ఉంది, మరియు ఈ చట్టం కింద మొదటి శిక్ష ఇప్పటికే పడింది. చాలా U.S. రాష్ట్రాలు ఇప్పుడు అసభ్యకరమైన డీప్‌ఫేక్‌లను పరిష్కరించే వారి స్వంత శాసనాలను కలిగి ఉన్నాయి. ఆ పురోగతి నిజమైనది మరియు గుర్తించదగినది.

కానీ చట్టం వాస్తవానికి దేనిని నియంత్రిస్తుందో చూడండి: ప్రచురణ మరియు పంపిణీ — కంటెంట్ ఒక పరికరాన్ని విడిచిపెట్టి ప్లాట్‌ఫారమ్‌కు చేరుకునే క్షణం. ప్లాట్‌ఫారమ్‌లు నిజమైన నియంత్రణ కేంద్రంగా ఉన్నందున, ఒత్తిడి తేడానికి అది వివేకవంతమైన ప్రదేశం. చట్టం తాకలేనిది సృష్టి (generation) ని మాత్రమే. ఇది ఒకరి ల్యాప్‌టాప్‌లో ఉన్న మోడల్ ఫైల్‌ను, లేదా ప్లాట్‌ఫారమ్ సమీక్షను ఎప్పుడూ ట్రిగ్గర్ చేయని మెసేజింగ్ యాప్ ద్వారా రహస్యంగా సృష్టించి షేర్ చేసిన చిత్రాన్ని, లేదా గ్రూప్ చాట్‌లో షేర్ చేయబడిన ఫొటోను తాకలేదు. టేక్‌డౌన్ అనేది హాని ఇప్పటికే బహిరంగమైన తర్వాత మాత్రమే సక్రియం అయ్యే పరిష్కారం. తమ సహచరులు ఇప్పటికే నకిలీ చిత్రాన్ని చూసిన ఒక విద్యార్థికి, వేగవంతమైన తొలగింపు సమయం ఇప్పటికే జరిగిన దానిని రద్దు చేయదు.

చట్టం నిరుపయోగమని చెప్పడం దీని ఉద్దేశం కాదు — ఈ మెటీరియల్‌ను పంపిణీ చేసే వ్యయాన్ని పెంచడం ప్రాముఖ్యమైనది. కానీ టేక్‌డౌన్ శాసనాలను పరిష్కారంగా భావించడం అంటే, నియంత్రించబడని చాలా పెద్ద పొరను వదిలేసి నియంత్రించబడిన ఒకే పొరను ప్రధానమైనదిగా భావించడమే. ఏ టేక్‌డౌన్ విధానం యొక్క పరిధికి చిక్కకుండా కంటెంట్ సృష్టి జరుగుతుంది, మరియు అది ఖచ్చితంగా ఇప్పటికే అదుపు తప్పి విస్తరించిన పొర.

"నిరోధించడం అసాధ్యం" అనేది ఎందుకు నిజమైన సమాధానం

ఇది వదిలేయమని ఇచ్చే పిలుపు కాదు — సమస్యను ఖచ్చితంగా నిర్ధారించమని ఇచ్చే పిలుపు, ఎందుకంటే తప్పుడు నిర్ధారణ తప్పుడు ప్రతిస్పందనకు దారితీస్తుంది.

ఇప్పటికే వేలాది యంత్రాలకు కాపీ చేయబడిన మోడల్ విడుదలను మీరు రద్దు చేయలేరు. ఫొటోరియలిస్టిక్ సృష్టిని మళ్లీ కష్టతరం చేయలేరు. శాశ్వతంగా ముందుండే డిటెక్టర్‌ను నిర్మించలేరు, మరియు ఒకరి సొంత హార్డ్‌వేర్‌పై ప్రైవేట్‌గా జరిగే గణనను చేరుకునే చట్టాన్ని రాయలేరు. నిజంగా ఉపయోగపడే ప్రతి చర్య సృష్టికి తదుపరి దశలోనే పనిచేస్తుంది: వేగవంతమైన మరియు స్థిరమైన టేక్‌డౌన్‌లు, పంపిణీకి నిజమైన చట్టపరమైన పరిణామాలు, ఈ ప్రయోజనం కోసం రూపొందించిన యాప్‌లపై యాప్ స్టోర్‌లు విధానాలను నిజంగా అమలు చేయడం, మరియు స్క్రీన్ ద్వారా వచ్చే ఇతర హానీలను పరిష్కరించడం నేర్చుకున్నట్లే పాఠశాలలు దీని గురించి పిల్లలతో నిజాయితీగా సంభాషణలు జరపడం. ఇవి చేయదగినవే — కానీ ఇవి హానిని తగ్గించే చర్యలు మాత్రమే, నివారణ కాదు.

ఈ సాంకేతికత ప్రమాదకరమని హెచ్చరించే వ్యాసాలు ప్రమాదాన్ని సరిగ్గానే గుర్తించాయి. కానీ అవి పొరపాటు పడే చోటు ఎక్కడంటే, ఇంకా చికిత్స అందుబాటులో ఉందని భావించడంలోనే. టూల్స్ ఇప్పటికే మిలియన్ల కొద్దీ పరికరాల్లో పంపిణీ చేయబడ్డాయి. ఒకప్పుడు ప్రజలను రక్షించిన అడ్డంకి తొలగిపోయింది, మరియు అది తిరిగి రాదు. అసౌకర్యకరమైన నిజం ఏమిటంటే, నిరోధించవచ్చని అందరూ భావించిన అంశం ఇప్పటికే జరిగిపోయింది — నిశ్శబ్దంగా, బహిరంగ చర్చ ఇంకా అది వస్తుందా లేదా అని అడుగుతున్న సమయంలోనే.