లేబులింగ్ డేటా
విషపూరితమైన కంటెంట్‌కు (ఉదా. లైంగిక వేధింపులు, హింస, జాత్యహంకారం, లింగవివక్ష, మొదలైనవి) వ్యతిరేకంగా భద్రతా వ్యవస్థను రూపొందించడానికి, OpenAI విషపూరిత కంటెంట్‌ను లేబుల్ చేయడానికి గంటకు $2 కంటే తక్కువ సంపాదించే అవుట్‌సోర్స్ కెన్యా కార్మికులను ఉపయోగించినట్లు TIME మ్యాగజైన్ పరిశోధన ద్వారా వెల్లడైంది.భవిష్యత్తులో ఇటువంటి కంటెంట్‌ను గుర్తించడానికి మోడల్‌కు శిక్షణ ఇవ్వడానికి ఈ లేబుల్‌లు ఉపయోగించబడ్డాయి.అవుట్‌సోర్సింగ్ కార్మికులు అటువంటి విషపూరితమైన మరియు ప్రమాదకరమైన కంటెంట్‌కు గురయ్యారు, వారు అనుభవాన్ని "హింస"గా అభివర్ణించారు.OpenAI యొక్క అవుట్‌సోర్సింగ్ భాగస్వామి సామా, శాన్ ఫ్రాన్సిస్కో, కాలిఫోర్నియాలో ఉన్న శిక్షణ-డేటా కంపెనీ.
జైల్ బ్రేకింగ్
ChatGPT దాని కంటెంట్ విధానాన్ని ఉల్లంఘించే ప్రాంప్ట్‌లను తిరస్కరించడానికి ప్రయత్నిస్తుంది.అయినప్పటికీ, కొంతమంది వినియోగదారులు డిసెంబర్ 2022 ప్రారంభంలో ఈ పరిమితులను దాటవేయడానికి వివిధ ప్రాంప్ట్ ఇంజనీరింగ్ టెక్నిక్‌లను ఉపయోగించడం ద్వారా ChatGPTని జైల్‌బ్రేక్ చేయగలిగారు మరియు Molotov కాక్‌టెయిల్ లేదా న్యూక్లియర్ బాంబ్‌ను ఎలా సృష్టించాలో లేదా నియో-నాజీ శైలిలో వాదనలను రూపొందించడానికి సూచనలను అందించడానికి ChatGPTని విజయవంతంగా మోసగించారు.ఒక టొరంటో స్టార్ రిపోర్టర్ చాట్‌జిపిటిని ప్రారంభించిన కొద్దిసేపటికే తాపజనక ప్రకటనలు చేయడంలో అసమాన వ్యక్తిగత విజయం సాధించాడు: ఉక్రెయిన్‌పై 2022 రష్యా దండయాత్రను ఆమోదించడానికి చాట్‌జిపిటి మోసగించబడింది, అయితే ఒక కాల్పనిక దృశ్యంతో పాటు ఆడమని అడిగినప్పుడు కూడా, కెనడియన్ ప్రైమ్‌సన్‌గ్విల్ ట్రూడియో ప్రధాన మంత్రి సన్ గ్విల్ ట్రూడియో ఎందుకు అనే వాదనలను రూపొందించడంలో ChatGPT అడ్డుపడింది.(వికీ)
పోస్ట్ సమయం: ఫిబ్రవరి-18-2023