చాట్‌జిపిటి యొక్క నైతిక ఆందోళనలు

లేబులింగ్ డేటా
హానికరమైన కంటెంట్‌కు (ఉదాహరణకు లైంగిక వేధింపులు, హింస, జాత్యహంకారం, లింగవివక్ష మొదలైనవి) వ్యతిరేకంగా ఒక భద్రతా వ్యవస్థను నిర్మించడానికి, OpenAI సంస్థ గంటకు $2 కంటే తక్కువ సంపాదించే అవుట్‌సోర్స్ కెన్యా కార్మికులను ఉపయోగించి హానికరమైన కంటెంట్‌కు లేబుల్స్ అంటించిందని TIME మ్యాగజైన్ జరిపిన ఒక దర్యాప్తులో వెల్లడైంది. భవిష్యత్తులో అటువంటి కంటెంట్‌ను గుర్తించే ఒక మోడల్‌కు శిక్షణ ఇవ్వడానికి ఈ లేబుల్స్‌ను ఉపయోగించారు. అవుట్‌సోర్స్ కార్మికులు ఎంతటి హానికరమైన మరియు ప్రమాదకరమైన కంటెంట్‌కు గురయ్యారంటే, వారు ఆ అనుభవాన్ని "హింస"గా వర్ణించారు. OpenAI యొక్క అవుట్‌సోర్సింగ్ భాగస్వామి కాలిఫోర్నియాలోని శాన్ ఫ్రాన్సిస్కోలో ఉన్న ఒక శిక్షణా-డేటా సంస్థ అయిన సమా.

జైలు బ్రేకింగ్
ChatGPT తన కంటెంట్ పాలసీని ఉల్లంఘించే అవకాశం ఉన్న ప్రాంప్ట్‌లను తిరస్కరించడానికి ప్రయత్నిస్తుంది. అయితే, 2022 డిసెంబర్ ప్రారంభంలో, కొంతమంది వినియోగదారులు ఈ పరిమితులను అధిగమించడానికి వివిధ ప్రాంప్ట్ ఇంజనీరింగ్ పద్ధతులను ఉపయోగించి ChatGPTని జైల్‌బ్రేక్ చేయగలిగారు. వారు ChatGPTని మోసగించి, మోలోటోవ్ కాక్‌టెయిల్ లేదా అణు బాంబును ఎలా తయారు చేయాలో సూచనలు ఇప్పించారు, లేదా ఒక నియో-నాజీ శైలిలో వాదనలు సృష్టించేలా చేశారు. ప్రారంభించిన కొద్దికాలానికే, ఒక టొరంటో స్టార్ రిపోర్టర్ ChatGPTతో రెచ్చగొట్టే ప్రకటనలు చేయించడంలో కొంతవరకు వ్యక్తిగత విజయం సాధించారు: 2022లో ఉక్రెయిన్‌పై రష్యా దాడిని ఆమోదించేలా ChatGPTని మోసగించారు, కానీ ఒక కల్పిత దృశ్యంతో సహకరించమని అడిగినప్పుడు కూడా, కెనడా ప్రధానమంత్రి జస్టిన్ ట్రూడో దేశద్రోహానికి పాల్పడ్డారని వాదించడానికి ChatGPT నిరాకరించింది. (వికీ)