సంబంధం లేని వారి ఫోటోను అశ్లీలంగా మార్ఫింగ్ చేస్తే మన దేశంలో కఠిన శిక్షలు ఉంటాయి. కానీ ఎలాన్ మస్క్‌కు చెందిన ఏఐ టూల్ గ్రోక్ మాత్రం విచ్చలవిడిగా అలాంటివి క్షణాల్లో చేసిస్తోంది. ఈ వ్యవహారం ఇప్పుడు ఇండియాలో దుమారం రేపుతోంది. సోషల్ మీడియా ప్లాట్‌ఫారమ్ ఎక్స్ లో ఏఐ చాట్‌బాట్ గ్రోక్ ప్రస్తుతం ప్రపంచవ్యాప్తంగా తీవ్ర వివాదాలకు కేంద్రబిందువుగా మారింది. ముఖ్యంగా గ్రోక్-2 వెర్షన్‌లో ఉన్న ఇమేజ్ జనరేషన్ ఫీచర్ ఏ విధమైన నైతిక నిబంధనలు లేకుండా పని చేస్తుండటంపై టెక్ నిపుణులు, సామాజిక కార్యకర్తలు ఆందోళన వ్యక్తం చేస్తున్నారు. వినియోగదారులు కేవలం ఒక చిన్న ప్రాంప్ట్ ఇవ్వడం ద్వారా ఎవరి ఫోటోనైనా అసభ్యకరంగా, న్యూడ్ లేదా బికినీ ధరించినట్లుగా మార్చేస్తుండటం పెను ప్రమాదానికి సంకేతంగా నిలుస్తోంది.

ఇతర ఏఐ టూల్స్ కు కఠిన నిబంధనలు

సాధారణంగా చాట్‌జిపిటి లేదా గూగుల్ జెమిని వంటి ఏఐ టూల్స్ అశ్లీలత, హింస లేదా సెలబ్రిటీల వ్యక్తిగత గోప్యతకు భంగం కలిగించే చిత్రాలను సృష్టించకుండా కఠినమైన నియంత్రణలను కలిగి ఉంటాయి. కానీ గ్రోక్ విషయంలో ఇలాంటి నిబంధనలేవీ లేకపోవడం వల్ల, ఆకతాయిలు, అపరిచితులు సెలబ్రిటీలు, మహిళా నేతలు, చివరకు సాధారణ వ్యక్తుల ఫోటోలను కూడా మార్ఫింగ్ చేసి అసభ్యకరమైన చిత్రాలను సృష్టిస్తున్నారు. ఇది కేవలం సాంకేతిక విజ్ఞానం కాదు, డిజిటల్ అరాచకత్వానికి పరాకాష్ట అని విమర్శలు వెల్లువెత్తుతున్నాయి.

ఇండియాలో మరింత అరాచకం

భారత్‌లో ఇలాంటి చర్యలు తీవ్రమైన చట్టపరమైన ఉల్లంఘనల కిందకు వస్తాయి. భారత ఐటీ చట్టం , కొత్తగా వచ్చిన భారతీ న్యాయ సంహిత ప్రకారం.. ఒక వ్యక్తి అనుమతి లేకుండా వారి ఫోటోలను మార్ఫింగ్ చేయడం లేదా అసభ్యకరంగా ప్రదర్శించడం నాన్-బెయిలబుల్ నేరం. గ్రోక్ ద్వారా సృష్టిస్తున్న ఈ డీప్‌ఫేక్ చిత్రాలు మహిళల భద్రతకు , గౌరవానికి తీవ్ర భంగం కలిగిస్తున్నాయి. ఇప్పటికే భారత ప్రభుత్వం ఇటువంటి ఏఐ టూల్స్ పట్ల కఠినంగా వ్యవహరిస్తోంది. ఈ క్రమంలోనే, గ్రోక్ ద్వారా జరుగుతున్న నిబంధనల ఉల్లంఘనలపై భారత కేంద్ర ఎలక్ట్రానిక్స్, ఐటీ మంత్రిత్వ శాఖ సీరియస్ అయింది. ఎటువంటి ఫిల్టర్లు లేకుండా అశ్లీల చిత్రాలను సృష్టించడానికి అనుమతిస్తున్నందుకు గాను ఎక్స్ యాజమాన్యానికి నోటీసులు జారీ చేసింది.

తన ఫోటోకు బికినీ వేయిచుకున్న ఎలాన్ మస్క్

ఇలాంటి విమర్శలు వస్తూండటంతో ఎలాన్ మస్క్ కూడా తన ఫోటోకి పుట్ బికినీ ఆన్ మీ అనే ప్రాంప్ట్ తో బికిని ఏఐ ఫోటోను సృష్టించుకుని పోస్ట్ చేశారు. అంటే అదంతా ఫన్ అని.. నైతికత లాంటివేమీ ఉండవని ఆయన చెప్పినట్లయింది. ఇతర చోట్ల ఏమో కానీ భారత భూభాగంలో కార్యకలాపాలు సాగించే ఏ సోషల్ మీడియా సంస్థ అయినా ఇక్కడి చట్టాలకు లోబడి ఉండాలని, లేనిపక్షంలో భారీ జరిమానాలతో పాటు నిషేధాన్ని కూడా ఎదుర్కోవాల్సి ఉంటుంది. ఎలోన్ మస్క్ చెప్పే సంపూర్ణ భావ ప్రకటన స్వేచ్ఛ పేరుతో ఇతరుల ప్రైవసీని బలిపీఠం ఎక్కించడం అంగీకారయోగ్యం కాదని నెటిజన్లు మండిపడుతున్నారు. తక్షణమే గ్రోక్ తన ఇమేజ్ జనరేషన్ ఫీచర్‌పై కఠినమైన ఫిల్టర్లను ఏర్పాటు చేయకపోతే, అది అంతర్జాతీయ స్థాయిలో చట్టపరమైన విచారణలను ఎదుర్కోవడమే కాకుండా భారత్ వంటి దేశాల్లో నిషేధానికి గురయ్యే అవకాశం ఉందన్న వాదన వినిపిస్తోంది.