અલ્ગોરિધમિક બાયસ જવાબદારી એ કાનૂની જવાબદારી છે જે સંસ્થા વહન કરે છે જ્યારે સ્વચાલિત સિસ્ટમ ભેદભાવપૂર્ણ પરિણામો ઉત્પન્ન કરે છે. નેધરલેન્ડ્સમાં તે જવાબદારી ત્રણ પાયા પર આધારિત છે જે આજે પહેલાથી જ લાગુ પડે છે: ડચ નાગરિક સંહિતાના કલમ 6:162 ની સામાન્ય અપરાધ જોગવાઈ, નેધરલેન્ડ્સ ઇન્સ્ટિટ્યૂટ ફોર હ્યુમન રાઇટ્સ દ્વારા દેખરેખ હેઠળ સમાન સારવાર કાયદો, અને ન્યાયીતા અને સ્વચાલિત નિર્ણય લેવા પર GDPR નિયમો. EU AI કાયદો વધુ એક સ્તર ઉમેરે છે, જેનો એક ભાગ પહેલેથી જ અમલમાં છે અને જેનો એક ભાગ આ દાયકાના અંતમાં શરૂ થાય છે.
વ્યવહારુ પરિણામ સીધું છે. જે કંપની ભરતી ફિલ્ટર, ક્રેડિટ મોડેલ અથવા છેતરપિંડી-શોધ સ્કોરનો ઉપયોગ કરે છે તે તે સિસ્ટમ શું કરે છે, તેણે મોડેલ પોતે બનાવ્યું છે કે નહીં અને કોઈએ પરિણામનો હેતુ રાખ્યો હતો કે નહીં તે માટે જવાબદાર છે. ડચ ભેદભાવ કાયદામાં નિર્ણયની અસર ગણાય છે, તેની પાછળનો હેતુ નહીં.
અલ્ગોરિધમિક પૂર્વગ્રહ જવાબદારી ખરેખર શું આવરી લે છે
જ્યારે કોઈ ઓટોમેટેડ સિસ્ટમ તુલનાત્મક લોકો સાથે કાયદાનું રક્ષણ કરે છે અથવા તેમના માટે વિકલ્પ તરીકે કાર્ય કરે છે તેના આધારે અલગ રીતે વર્તે છે ત્યારે અલ્ગોરિધમિક પૂર્વગ્રહ ઉદ્ભવે છે. તે ભાગ્યે જ પોતાને જાહેર કરે છે. કંપનીના પોતાના નિર્ણયોના દાયકા પર તાલીમ પામેલ મોડેલ તે નિર્ણયોમાં સમાવિષ્ટ કોઈપણ પેટર્નનું પુનઃઉત્પાદન કરશે, અને તે દરેક ફાઇલમાં સતત, ઝડપે, તે સ્પર્શ કરશે. તે સુસંગતતા એ છે જે તકનીકી ખામીને કાનૂની ખુલાસામાં ફેરવે છે: એક પક્ષપાતી માનવ નિર્ણય એક ઘટના છે, જ્યારે પક્ષપાતી મોડેલ એક નીતિ છે.
જવાબદારી ત્રણ અલગ અલગ સ્ત્રોતોમાંથી આવે છે, અને તે એક જ સમયે એક જ નિર્ણય દ્વારા શરૂ થઈ શકે છે. નાગરિક જવાબદારી નુકસાન સહન કરનાર વ્યક્તિને વળતર આપે છે. સમાન સારવાર કાયદો તે વ્યક્તિને નેધરલેન્ડ્સ ઇન્સ્ટિટ્યૂટ ફોર હ્યુમન રાઇટ્સ (કોલેજ વૂર ડી રેક્ટેન વાન ડી મેન્સ) અથવા સિવિલ કોર્ટમાં જવાનો માર્ગ આપે છે, જેમાં પુરાવાનો ભાર હોય છે જે ભેદભાવની ધારણા બહાર આવે પછી સંસ્થા તરફ વળે છે. ડેટા પ્રોટેક્શન કાયદો ડચ ડેટા પ્રોટેક્શન ઓથોરિટી (ઓટોરાઇટીટ પર્સૂન્સગેગેવેન્સ) ને અમલીકરણ સત્તાઓ આપે છે જે દાવો લાવનાર કોઈપણ વ્યક્તિ પર બિલકુલ આધાર રાખતી નથી.
આમાંના કોઈપણ માટે કસ્ટમાઇઝ્ડ AI કાયદાની જરૂર નથી. આ કેસોનો નિર્ણય લેતા નિયમો ટેકનોલોજી અસ્તિત્વમાં આવે તે પહેલાં લખાયેલા હતા અને સુધારા વિના તેના પર લાગુ પડે છે.
જ્યાં પૂર્વગ્રહ ઓટોમેટેડ સિસ્ટમમાં પ્રવેશ કરે છે
પૂર્વગ્રહ એ એક પણ નિષ્ફળતા નથી જેને એકવાર ચકાસી શકાય. તે જીવનચક્રના ઓળખી શકાય તેવા બિંદુઓ પર પ્રવેશ કરે છે, અને દરેક બિંદુ બેદરકારીના અલગ અલગ આરોપ પર નકશા બનાવે છે.
- તાલીમ ડેટા. ઐતિહાસિક નિર્ણયો ઐતિહાસિક પેટર્ન ધરાવે છે. તેના પર તાલીમ પામેલ મોડેલ તે પેટર્નને સુધારેલી સમસ્યા તરીકે નહીં પણ ધોરણ તરીકે શીખે છે.
- ચલોની પસંદગી. તટસ્થ દેખાતી વિશેષતા સંરક્ષિત લાક્ષણિકતા સાથે ગાઢ સંબંધ ધરાવે છે. વંશીયતા માટે પોસ્ટકોડનો ઉપયોગ પાઠ્યપુસ્તકનું ઉદાહરણ છે, અને તે પરોક્ષ ભેદભાવ પેદા કરે છે, ભલે સંરક્ષિત લાક્ષણિકતા ક્યારેય નોંધાઈ ન હોય.
- આઉટપુટનો ઉપયોગ કેવી રીતે થાય છે. એક મોડેલ જે જૂથોમાં અસમાન રીતે કાર્ય કરે છે તે સંશોધન સાધન તરીકે બચાવપાત્ર અને અરજીને નકારવા માટેના એકમાત્ર આધાર તરીકે અસુરક્ષિત હોઈ શકે છે. સમાન સ્કોર, અલગ રીતે ઉપયોગમાં લેવાથી, એક અલગ કાનૂની પરિણામ ઉત્પન્ન કરે છે.
- દેખરેખનો અભાવ. લોન્ચ સમયે સંતુલિત સિસ્ટમ તેની આસપાસના ડેટા બદલાતા બદલાતી રહે છે. ઘણા દાવાઓમાં જોવામાં નિષ્ફળતા એ બેદરકારીભર્યું કૃત્ય છે.
કાયદેસર રીતે જે તફાવત મહત્વપૂર્ણ છે તે પ્રત્યક્ષ ભેદભાવ વચ્ચે છે, જ્યાં સુરક્ષિત આધારનો ખુલ્લેઆમ ઉપયોગ થાય છે, અને પરોક્ષ ભેદભાવ, જ્યાં તટસ્થ માપદંડ સુરક્ષિત જૂથને નુકસાન પહોંચાડે છે. જો ઉદ્દેશ્ય કાયદેસર હોય અને માધ્યમો યોગ્ય અને જરૂરી હોય તો પરોક્ષ ભેદભાવને વાજબી ઠેરવી શકાય છે, પરંતુ તે વાજબીપણું પુરાવામાં હોવું જોઈએ, અને જે સંસ્થા તેનું મોડેલ આપેલ ચલનો ઉપયોગ કેમ કરે છે તે સમજાવી શકતી નથી તે ત્યાં પહોંચી શકશે નહીં.
ડચ ફાઉન્ડેશન: ટોર્ટ કાયદો અને સમાન સારવાર કાયદો
ડચ કાયદાના બે જૂથો પક્ષપાતના દાવામાં મોટાભાગનું કામ કરે છે, અને તેઓ અલગ અલગ પ્રશ્નોના જવાબ આપે છે. ટોર્ટ કાયદો પૂછે છે કે શું સંસ્થાએ બેદરકારીથી કામ કર્યું હતું અને નુકસાનનું મૂલ્ય શું છે. સમાન સારવાર કાયદો પૂછે છે કે શું પરિણામ ભેદભાવપૂર્ણ હતું, અને તે પુરાવાના ભાર સાથે આવું કરે છે જે ઇરાદાપૂર્વક દાવેદાર-મૈત્રીપૂર્ણ હોય છે.
ગેરકાયદેસર કૃત્ય તરીકે બેદરકારીપૂર્વક જમાવટ
ડચ નાગરિક સંહિતાના કલમ 6:162 મુજબ, કોઈ પણ વ્યક્તિ ગેરકાયદેસર કૃત્ય (onrechtmatige daad) માટે જવાબદાર બને છે જે તેમના કારણે થઈ શકે છે અને જે નુકસાન પહોંચાડે છે. સંસ્થાએ જે સ્વચાલિત સિસ્ટમનું પરીક્ષણ, માન્યતા અથવા દેખરેખ રાખી નથી તે ગેરકાયદેસર કૃત્ય હોઈ શકે છે, જે ભેદભાવપૂર્ણ પરિણામથી તદ્દન અલગ છે. દાવેદારે કૃત્ય, આરોપણ, નુકસાન અને તેમની વચ્ચેનું કારણભૂત જોડાણ દર્શાવવું આવશ્યક છે; લાગુ કરાયેલ ધોરણ એ છે જે એક સાવચેત સંસ્થાએ સમાન સ્થિતિમાં રહેવું જોઈએ.
જ્યાં સિસ્ટમ સપ્લાયર પાસેથી આવી હોય, ત્યાં ડિપ્લોયિંગ સંસ્થા તે ફરજમાંથી મુક્ત થતી નથી. ખામીયુક્ત કામગીરી માટે સિવિલ કોડના કલમ 6:74 હેઠળ વિક્રેતા સામે કરાર આધારિત દાવો હોઈ શકે છે, પરંતુ તે બે વ્યાપારી પક્ષો વચ્ચેની એક અલગ કાર્યવાહી છે. તે અરજદારના દાવાનો જવાબ આપતું નથી જેને નકારવામાં આવ્યો હતો.
સમાન સારવાર કાયદો અને પુરાવાનો બદલાયેલો ભાર
અલ્જેમેન વેટ ગેલિજકે વર્તણૂક અને તેની સાથેના ક્ષેત્રના કાયદાઓ, જેમાં વય ભેદભાવ અધિનિયમ (WGBL) અને અપંગતા અને ક્રોનિક બીમારી પરનો અધિનિયમ (WGBH/CZ)નો સમાવેશ થાય છે, સંરક્ષિત આધારો પર પ્રત્યક્ષ અને પરોક્ષ ભેદભાવને પ્રતિબંધિત કરે છે. રોજગારમાં, નાગરિક સંહિતાના લેખ 7:646 માં લિંગ જોગવાઈઓ ઉમેરવામાં આવી છે.
પ્રક્રિયાગત નિયમ એ છે જે મોટાભાગના કેસોનો નિર્ણય લે છે. એકવાર દાવેદાર એવા તથ્યો રજૂ કરે છે જે ભેદભાવની ધારણાને જન્મ આપે છે, તો બોજ બદલાઈ જાય છે: પછી સંસ્થાએ સાબિત કરવું પડશે કે તેણે પ્રતિબંધનો ભંગ કર્યો નથી. જે સંસ્થા તેના મોડેલનું વજન શું છે, કયા ડેટા પર છે અને કયા પરીક્ષણ સાથે છે તે બતાવી શકતી નથી, તેની પાસે તે બોજને દૂર કરવાનો કોઈ રસ્તો નથી. આ તે બિંદુ છે જ્યાં નબળા દસ્તાવેજો આંતરિક હાઉસકીપિંગ સમસ્યા બનવાનું બંધ કરે છે અને દાવો ખોવાઈ જવાનું કારણ બને છે.
ફરિયાદો નેધરલેન્ડ્સ ઇન્સ્ટિટ્યૂટ ફોર હ્યુમન રાઇટ્સ સમક્ષ પણ લાવી શકાય છે, જેના મંતવ્યો બંધનકર્તા નથી પરંતુ વ્યાપકપણે અનુસરવામાં આવે છે અને ત્યારબાદની સિવિલ કાર્યવાહીમાં પુરાવા તરીકે વારંવાર ઉપયોગમાં લેવાય છે.
GDPR ને સ્વચાલિત નિર્ણયો માટે શું જરૂરી છે
ડેટા સુરક્ષા બાજુથી GDPR સમાન સિસ્ટમોનું સંચાલન કરે છે. કલમ 22 વ્યક્તિને ફક્ત સ્વચાલિત પ્રક્રિયા પર આધારિત નિર્ણયને આધીન ન રહેવાનો અધિકાર આપે છે, જેમાં પ્રોફાઇલિંગનો સમાવેશ થાય છે, જ્યાં તે નિર્ણય કાનૂની અસરો ઉત્પન્ન કરે છે અથવા તે જ રીતે તેમને નોંધપાત્ર રીતે અસર કરે છે. ભરતી, ક્રેડિટ અને લાભોના નિર્ણયો સામાન્ય રીતે તે વર્ણનમાં આવે છે.
શબ્દ જે વજન ધરાવે છે તે ફક્ત . માનવ સંડોવણી ફક્ત કલમ 22 ની બહાર નિર્ણય લે છે જો તે અર્થપૂર્ણ હોય: એક વ્યક્તિ જેની પાસે અલગ નિષ્કર્ષ પર પહોંચવાનો અધિકાર અને માહિતી હોય, નહીં કે ઓપરેટર જે સ્ક્રીન જે બતાવે છે તેની પુષ્ટિ કરે. રબર-સ્ટેમ્પિંગને સ્વચાલિત નિર્ણય લેવા તરીકે ગણવામાં આવે છે.
કલમ 22 ને ધ્યાનમાં લીધા વિના બે વધુ જવાબદારીઓ લાગુ પડે છે. કલમ 5(1)(a) માં ન્યાયીતાનો સિદ્ધાંત એ એક સ્વતંત્ર જરૂરિયાત છે કે ભેદભાવપૂર્ણ મોડેલ વ્યાખ્યા દ્વારા ઉલ્લંઘન કરે છે, અને કલમ 35 માં પ્રક્રિયા કરતા પહેલા ડેટા સુરક્ષા અસર મૂલ્યાંકનની જરૂર છે જે વ્યક્તિઓ માટે ઉચ્ચ જોખમમાં પરિણમી શકે છે, જે સામાન્ય રીતે અરજદારો અથવા ગ્રાહકોનું વ્યવસ્થિત પ્રોફાઇલિંગ છે. આ જોગવાઈઓના ઉલ્લંઘન માટે મહત્તમ દંડ GDPR ના કલમ 83(5) દ્વારા વીસ મિલિયન યુરો અથવા વિશ્વવ્યાપી વાર્ષિક ટર્નઓવરના ચાર ટકાથી વધુ પર નિર્ધારિત કરવામાં આવ્યો છે.
ડેટા ગોપનીયતા, GDPR, AI અને મોટા ડેટાનો અમારો ઝાંખી આ ફરજો મોટા પાયે ડેટા ઉપયોગ સાથે કેવી રીતે ક્રિયાપ્રતિક્રિયા કરે છે તે વધુ વિગતવાર દર્શાવે છે.
AI કાયદામાં પહેલાથી જ શું જરૂરી છે અને પછીથી શું શરૂ થાય છે
નિયમન (EU) 2024/1689, AI અધિનિયમ, હવે કોઈ પ્રસ્તાવ નથી. તે 1 ઓગસ્ટ 2024 ના રોજ અમલમાં આવ્યો અને તબક્કાવાર લાગુ પડે છે. 2 ફેબ્રુઆરી 2025 થી, કલમ 5 માં પ્રતિબંધો લાગુ પડે છે, કલમ 4 માં ફરજ સાથે, ખાતરી કરો કે AI સિસ્ટમ્સ સાથે કામ કરતા કર્મચારીઓ પાસે AI સાક્ષરતાનું પર્યાપ્ત સ્તર છે. સામાન્ય હેતુવાળા AI મોડેલો માટેની જવાબદારીઓ 2 ઓગસ્ટ 2025 થી લાગુ થઈ છે, જેમ કે શાસન અને દંડની જોગવાઈઓ છે.
ઉચ્ચ-જોખમ શાસન એ ભાગ છે જે પક્ષપાતને સીધી રીતે ચિંતા કરે છે, અને તે તે ભાગ પણ છે જેને મુલતવી રાખવામાં આવ્યો છે. પરિશિષ્ટ III માં સૂચિબદ્ધ AI સિસ્ટમો, જેમાં ભરતી અને પસંદગી માટે, પ્રમોશન અને સમાપ્તિના નિર્ણયો માટે, ક્રેડિટ યોગ્યતાનું મૂલ્યાંકન કરવા માટે અને વીમામાં જોખમ મૂલ્યાંકન માટે ઉપયોગમાં લેવાતી સિસ્ટમોનો સમાવેશ થાય છે, તે હવે 2 ડિસેમ્બર 2027 ના રોજ ઉચ્ચ-જોખમ જવાબદારીઓને આધીન બને છે. 2 ઓગસ્ટ 2028 ના રોજ અનુશિષ્ટ I હેઠળ અનુસરવામાં આવતી નિયમન કરાયેલ ઉત્પાદનોના સલામતી ઘટકો ધરાવતી ઉચ્ચ-જોખમ પ્રણાલીઓ.
જ્યારે તે જવાબદારીઓ પૂર્ણ થાય છે, ત્યારે તેઓ પહેલાથી જ જે સાવચેતીભર્યું કાર્ય કરે છે તેને સંહિતાબદ્ધ કરે છે: પ્રતિનિધિત્વ અને ભૂલ-ચકાસાયેલ ડેટાસેટ્સ, તકનીકી દસ્તાવેજીકરણ, સ્વચાલિત લોગિંગ, અસરગ્રસ્ત લોકો પ્રત્યે પારદર્શિતા, સિસ્ટમમાં બોલ્ટ કરવાને બદલે રચાયેલ માનવ દેખરેખ, અને સિસ્ટમ બજારમાં મૂકવામાં આવે અથવા સેવામાં મૂકવામાં આવે તે પહેલાં અનુરૂપ મૂલ્યાંકન. ડિપ્લોયર્સ, ફક્ત પ્રદાતાઓ જ નહીં, તેમની પોતાની ફરજો બજાવે છે, જેમાં લોગ રાખવા અને સક્ષમ લોકોને દેખરેખ સોંપવાનો સમાવેશ થાય છે.
બે મુદ્દાઓ નિયમિતપણે ખોટી રીતે વર્ણવવામાં આવે છે. દંડની મર્યાદા એકસમાન હોવાને બદલે સ્તરીય છે: કલમ 5 માં પ્રતિબંધિત પ્રથાઓના ઉલ્લંઘન પર પાંત્રીસ મિલિયન યુરો અથવા વિશ્વવ્યાપી ટર્નઓવરના સાત ટકા સુધી લાગુ પડે છે, જ્યારે ઉચ્ચ-જોખમ જવાબદારીઓનું પાલન ન કરવાથી પંદર મિલિયન યુરો અથવા ત્રણ ટકાની નીચી ટોચમર્યાદા વહન થાય છે. અને પ્રસ્તાવિત AI જવાબદારી નિર્દેશ, જે EU માં AI સિસ્ટમ્સ દ્વારા નુકસાન પામેલા લોકો માટે પુરાવાનો બોજ હળવો કરી શક્યો હોત, તે પાછો ખેંચી લેવામાં આવ્યો છે. AI નુકસાન માટે કોઈ સુમેળભર્યું યુરોપિયન જવાબદારી શાસન નથી; નેધરલેન્ડ્સમાં દાવો ડચ કાયદા હેઠળ દાવો છે.
રાષ્ટ્રીય અમલીકરણ હજુ પણ બનાવવામાં આવી રહ્યું છે. નેધરલેન્ડ્સે હજુ સુધી નિયમન હેઠળ તેના બજાર દેખરેખ સત્તાવાળાઓને નિયુક્ત કરતો અમલીકરણ કાયદો પૂર્ણ કર્યો નથી, જોકે ડચ ડેટા પ્રોટેક્શન ઓથોરિટી અને ડચ ઓથોરિટી ફોર ડિજિટલ ઇન્ફ્રાસ્ટ્રક્ચરે તૈયારીના કાર્યમાં સંકલનકારી ભૂમિકાઓ ભજવી છે. અમે કૃત્રિમ બુદ્ધિમત્તાના કાનૂની પાસાં અને EU AI એક્ટ માટેની અમારી માર્ગદર્શિકામાં માળખાની વધુ ઊંડાણપૂર્વક ચર્ચા કરીએ છીએ.
ત્રણેય ફ્રેમવર્કની તુલના કેવી રીતે થાય છે
| ફ્રેમવર્ક | તે પૂછે છે તે પ્રશ્ન | જવાબદારીનો આધાર | પરિણામ |
|---|---|---|---|
| ડચ ટોર્ટ કાયદો (કલમ 6:162 BW) | શું સંસ્થાએ બેદરકારીથી કામ કર્યું અને તેનાથી નુકસાન થયું? | સિસ્ટમની બેદરકારીપૂર્વક પસંદગી, જમાવટ અથવા દેખરેખ | દાવેદાર દીઠ આકારણી કરાયેલ નુકસાન માટે વળતર |
| સમાન સારવાર કાયદો | શું પરિણામ પ્રતિબંધિત ભેદ હતો? | સંરક્ષિત જમીન પર પ્રત્યક્ષ કે પરોક્ષ ભેદભાવ, જેનો બોજ સંગઠન પર જશે | નિર્ણય રદ કરવો, નુકસાન, નેધરલેન્ડ્સ ઇન્સ્ટિટ્યૂટ ફોર હ્યુમન રાઇટ્સનો અભિપ્રાય |
| GDPR | શું પ્રક્રિયા વાજબી, પારદર્શક અને કાયદેસર રીતે સ્વચાલિત હતી? | કલમ 5(1)(a), કલમ 22 અથવા કલમ 35 નો ભંગ | ઑટોરાઇટ વ્યક્તિઓ દ્વારા અમલીકરણ; કલમ 83(5) માં ટોચમર્યાદા સુધીનો દંડ |
| એઆઈ એક્ટ | શું સિસ્ટમ તેના જોખમ વર્ગ માટેની આવશ્યકતાઓને પૂર્ણ કરે છે? | હાલમાં પ્રતિબંધોનું પાલન ન કરવું, અથવા એકવાર તે લાગુ થયા પછી ઉચ્ચ-જોખમ શાસનનું પાલન ન કરવું | વહીવટી દંડ, સુધારાત્મક પગલાં, બજારમાંથી સિસ્ટમ પાછી ખેંચી લેવી |
આ માળખા સ્પર્ધા કરવાને બદલે ઓવરલેપ થાય છે. એક નકારાયેલી અરજી એક જ તથ્યોના સમૂહ પર સિવિલ દાવો, સંસ્થાને ફરિયાદ, નિયમનકારી તપાસ અને સમય જતાં, AI કાયદાના પાલનમાં નિષ્ફળતા રજૂ કરી શકે છે.
ડચ કેસોએ શું સ્થાપિત કર્યું છે
બે એપિસોડ ડચ કોર્ટ અને નિયમનકારો સ્વચાલિત નિર્ણયો કેવી રીતે લે છે તે આકાર આપે છે, અને બંને લગભગ સમાન નિષ્ફળતા છે: એક અપારદર્શક સિસ્ટમ જે લોકો જોઈ શકતા નથી કે તે કેવી રીતે કાર્ય કરે છે તેમના પર લાગુ પડે છે.
ફેબ્રુઆરી 2020 માં, હેગની ડિસ્ટ્રિક્ટ કોર્ટે SyRI, જોખમ સૂચક સિસ્ટમ, જેને જાહેર સંસ્થાઓ વિવિધ સ્ત્રોતોમાંથી ડેટા ભેગા કરીને લાભ અને કર છેતરપિંડી શોધી કાઢે છે, તેને બંધ કરી દીધી. કોર્ટે ઠરાવ્યું કે સિસ્ટમને ટેકો આપતો કાયદો યુરોપિયન કન્વેન્શન ઓન હ્યુમન રાઇટ્સ (EU) ના આર્ટિકલ 8 હેઠળ વાજબી સંતુલન પરીક્ષણમાં નિષ્ફળ ગયો. જે ઘાતક હતું તે ડેટા વિશ્લેષણનો ઉપયોગ ન હતો, પરંતુ પારદર્શિતા અને ચકાસણીનો અભાવ હતો: જોખમ મોડેલ કે સૂચકાંકો જાહેર કરવામાં આવ્યા ન હતા, તેથી અસરગ્રસ્ત નાગરિક કે કોર્ટ ભેદભાવપૂર્ણ અસર માટે તપાસ કરી શક્યા નહીં. ખાનગી સંસ્થાઓ માટે પાઠ એ છે કે જે સિસ્ટમ કોઈ સમજાવી શકતી નથી તેનો બચાવ કરી શકાતો નથી, કારણ કે તેને ચલાવનાર પક્ષ તેને ન્યાયી ઠેરવવાનો બોજ ઉઠાવે છે.
બાળ સંભાળ લાભ કૌભાંડ (toeslagenaffaire) એ તેના પરિણામો દ્વારા પણ આ જ મુદ્દો ઉઠાવ્યો. કર વહીવટીતંત્રે સ્વચાલિત જોખમ પસંદગીનો ઉપયોગ કર્યો જેમાં બેવડી રાષ્ટ્રીયતા જેવા સૂચકાંકોને છેતરપિંડીના સંકેત તરીકે ગણવામાં આવ્યા, અને હજારો માતા-પિતાને ખોટી રીતે લેબલ કરવામાં આવ્યા અને ચુકવણી માટે આગળ ધપાવવામાં આવ્યા. ડચ ડેટા પ્રોટેક્શન ઓથોરિટીએ અંતર્ગત પ્રક્રિયાને ગેરકાયદેસર અને ભેદભાવપૂર્ણ ગણાવી અને અમલીકરણ કાર્યવાહી લાદી. તેણે અહીં સૌથી મહત્વપૂર્ણ સિદ્ધાંતની પણ પુષ્ટિ કરી: સિસ્ટમ દ્વારા પરિણામ ઉત્પન્ન થયું તે બચાવનું કોઈ વજન નથી, કારણ કે સિસ્ટમ ચલાવવાનું પસંદ કરવું એ જ કૃત્યનો ન્યાય કરવામાં આવી રહ્યો છે.
જ્યાં સામાન્ય વ્યવસાયિક ઉપયોગમાં જવાબદારી ઊભી થાય છે
મોટાભાગના એક્સપોઝર ક્યારેય કોઈ સીમાચિહ્નરૂપ ચુકાદા સુધી પહોંચતા નથી. તે પરિચિત ઓપરેશનલ નિર્ણયોમાં ઉદ્ભવે છે.
સંસ્થાના પોતાના ભરતી ઇતિહાસ પર તાલીમ પામેલ ભરતી ફિલ્ટર, ઇતિહાસમાં રહેલી પસંદગીઓ શીખશે અને તેને દરેક અનુગામી અરજદાર પર લાગુ કરશે. ભરતી સાધનો AI કાયદાના પરિશિષ્ટ III માં સ્પષ્ટ રીતે બેસે છે અને GDPR ના લેખ 22 ને એક જ સમયે સ્પર્શે છે, તેથી તેઓ એકસાથે ત્રણેય માળખાને આકર્ષે છે. ક્રેડિટ અથવા વીમા મોડેલ જે પોસ્ટકોડ, રોજગાર ઇતિહાસ ગેપ અથવા સમાન પાત્રના પ્રોક્સીનો ઉપયોગ કરે છે તે પરોક્ષ ભેદભાવ પેદા કરી શકે છે, ભલે ડેટા સેટમાં કોઈ સુરક્ષિત લાક્ષણિકતા ન હોય. એક વર્કફોર્સ મેનેજમેન્ટ સિસ્ટમ જે શિફ્ટ ફાળવે છે, કામગીરીનું નિરીક્ષણ કરે છે અથવા સમાપ્તિના નિર્ણયોમાં ફીડ કરે છે તે સમાન શ્રેણીમાં આવે છે, વધારાની ગૂંચવણ એ છે કે આવી સિસ્ટમ રજૂ થાય તે પહેલાં વર્ક્સ કાઉન્સિલને વર્ક્સ કાઉન્સિલ એક્ટ હેઠળ સંમતિનો અધિકાર હોઈ શકે છે.
દરેક કેસમાં ડચ કોર્ટ જે પ્રશ્ન પૂછે છે તે સમાન છે. સંસ્થાને સિસ્ટમ કેવી રીતે વર્તે છે તે વિશે શું ખબર હતી, તેણે શોધવા માટે શું કર્યું, અને જ્યારે પેટર્ન દૃશ્યમાન બન્યું ત્યારે તેણે શું કર્યું?
વિક્રેતા અને ડિપ્લોયર: કોણ શું જવાબ આપે છે
સિસ્ટમ ખરીદવાથી જોખમ તેની સાથે ટ્રાન્સફર થતું નથી. AI એક્ટ હેઠળ પ્રદાતા અને ડિપ્લોયરની અલગ ફરજો હોય છે, અને ડચ નાગરિક કાયદા હેઠળ જે વ્યક્તિને નુકસાન થયું છે તે વ્યક્તિ જેણે તેમને અસર કરતો નિર્ણય લીધો છે તેની સામે દાવો માંડે છે, જે લગભગ હંમેશા ડિપ્લોયિંગ સંસ્થા હોય છે.
કરારો જે કરી શકે છે તે નાણાકીય પરિણામોની ફાળવણી અને દાવાનો બચાવ કરવા માટે જરૂરી માહિતી સુરક્ષિત કરવાનું છે. એક પ્રાપ્તિ કરાર જે સિસ્ટમ દ્વારા પૂર્ણ કરવા માટે જરૂરી કામગીરી અને ન્યાયીતાના માપદંડોને સ્પષ્ટ કરે છે, દસ્તાવેજો, પરીક્ષણ પરિણામો અને લોગની ઍક્સેસની ખાતરી આપે છે, ઓડિટનો અધિકાર આપે છે, સપ્લાયરને મોડેલમાં ભૌતિક ફેરફારોની જાણ કરવાની જરૂર છે, અને જો દાવો ઉદ્ભવે તો જવાબદારી અને સંરક્ષણ ખર્ચ કેવી રીતે વહેંચવામાં આવે છે તે નિર્ધારિત કરે છે. કરારો જે કરી શકતા નથી તે નિયમનકારી દંડ અથવા વૈધાનિક ફરજ દૂર કરવાનું છે. કૃત્રિમ બુદ્ધિ દ્વારા કરવામાં આવેલી ભૂલો માટે કોણ જવાબદાર છે તે અંગેનો અમારો લેખ ફાળવણી દ્વારા વધુ વિગતવાર કાર્ય કરે છે.
દાવો આવે તે પહેલાં જોખમનું નિયંત્રણ કરવું
પક્ષપાતના દાવામાં રક્ષણાત્મક સ્થિતિ દાવો કરવામાં આવે તે પહેલાં ઘણા સમય પહેલા બનાવવામાં આવે છે, અને તેમાં લગભગ સંપૂર્ણપણે રેકોર્ડ્સનો સમાવેશ થાય છે. કારણ કે ભેદભાવની ધારણા સ્થાપિત થયા પછી પુરાવાનો ભાર બદલાઈ જાય છે, જે સંસ્થા બતાવી શકે છે કે તેણે શું પરીક્ષણ કર્યું, ક્યારે અને પરિણામ સાથે શું કર્યું તે મૂળભૂત રીતે અલગ સ્થિતિમાં હોય છે જે ન કરી શકે.
કાર્યક્ષમ કાર્યક્રમમાં ચાર ઘટકો હોય છે. જમાવટ પહેલાં પરીક્ષણ, કાયદા દ્વારા સુરક્ષિત જૂથોમાં પરિણામ દરની તુલના કરવી અને તાલીમ ડેટા અને પ્રોક્સીઓ માટે પસંદ કરેલા ચલોની તપાસ કરવી. જમાવટ પછી પરીક્ષણ ચાલુ રાખો, કારણ કે લોન્ચ સમયે સંતુલિત મોડેલ તે રીતે રહેશે નહીં. એક નામવાળી વ્યક્તિ અથવા સમિતિને પરિણામોની સમીક્ષા કરવા અને સિસ્ટમને સ્થગિત કરવાનો અધિકાર આપો, જેથી તેને ચલાવવાનો નિર્ણય કોઈએ લીધેલો નિર્ણય હોય, કોઈની માલિકીનો ડિફોલ્ટ ન હોય. અને ડેટા સ્ત્રોતો, માન્યતા, ઓડિટ તારણો અને સુધારાત્મક પગલાં સહિત તે બધાને એવા સ્વરૂપમાં રેકોર્ડ કરો જે નિયમનકારને સોંપી શકાય અથવા કાર્યવાહીમાં રજૂ કરી શકાય.
આ ઉપરાંત, જ્યાં કલમ 22 લાગુ પડે છે ત્યાં માનવીય નિર્ણયને ખરેખર માનવીય રાખો, સિસ્ટમ લાઇવ થાય તે પહેલાં ડેટા પ્રોટેક્શન ઇમ્પેક્ટ એસેસમેન્ટ પૂર્ણ કરો, પછી નહીં, તપાસો કે વર્ક્સ કાઉન્સિલની ભૂમિકા છે કે નહીં, અને અસરગ્રસ્ત વ્યક્તિને સ્પષ્ટ ભાષામાં કહી શકો કે નિર્ણય આ રીતે કેમ ગયો. આમાંથી કોઈ પણ પગલું વિચિત્ર નથી, અને AI એક્ટ ઉચ્ચ-જોખમ શાસન ડિસેમ્બર 2027 થી કોઈપણ સંજોગોમાં ભરતી, ક્રેડિટ અને વીમા સિસ્ટમો માટે તેમાંથી મોટાભાગનાને ફરજિયાત બનાવશે. જે સંસ્થાઓ હવે તેમને બનાવે છે તે ફક્ત વહેલા આવી રહી છે.
જો નિર્ણયને પડકારવામાં આવે તો શું કરવું
જ્યારે કોઈ અરજદાર, ગ્રાહક અથવા કર્મચારી સ્વયંસંચાલિત નિર્ણય પર પ્રશ્ન ઉઠાવે છે, ત્યારે પહેલું કાર્ય વાસ્તવિક હોય છે: તે કિસ્સામાં સિસ્ટમે ખરેખર શું કર્યું, તેણે કયા ઇનપુટ્સનો ઉપયોગ કર્યો, શું વ્યક્તિએ વાસ્તવિક નિર્ણય લીધો, અને શું પરિણામ વ્યાપક પેટર્નમાં બંધબેસે છે તે સ્થાપિત કરો. જવાબ આપતા પહેલા આ કરો, કારણ કે ખોટો પહેલો જવાબ પછીથી સુધારવો મુશ્કેલ છે અને તે સંસ્થાની વિરુદ્ધ વાંચવામાં આવશે.
લોગ અને સંડોવાયેલા મોડેલ વર્ઝનને સાચવો. ફરિયાદીએ જે ફ્રેમવર્કનો ઉપયોગ કર્યો હતો તેના કરતાં ત્રણેય ફ્રેમવર્ક સામે દાવાનું મૂલ્યાંકન કરો, કારણ કે ડેટા સુરક્ષા ફરિયાદ અને ભેદભાવનો દાવો એક જ ફાઇલમાંથી થઈ શકે છે. જો પેટર્ન વાસ્તવિક હોય, તો તેને સુધારવા અને અસરગ્રસ્ત નિર્ણયોનો ઉકેલ લાવવાથી નુકસાનનો બચાવ કરવા કરતાં વધુ અસરકારક રીતે મર્યાદિત થાય છે.
Law & More કંપનીઓને સ્વચાલિત નિર્ણય લેવાની કાનૂની બાજુ પર સલાહ આપે છે: ડચ ટોર્ટ અને સમાન સારવાર કાયદા હેઠળ એક્સપોઝરનું મૂલ્યાંકન કરવું, પ્રોફાઇલિંગ અને સ્વચાલિત નિર્ણયો માટે GDPR પાલનની સમીક્ષા કરવી, ભરતી, ક્રેડિટ અને વીમા પ્રણાલીઓને લાગુ પડતા AI કાયદાની જવાબદારીઓ માટે તૈયારી કરવી, વિક્રેતા કરારો પર વાટાઘાટો કરવી અને દાવાઓ અને નિયમનકારી તપાસનો બચાવ કરવો. અમારા આઇટી વકીલો તમે જે સિસ્ટમનો ઉપયોગ કરો છો તેના પર નિયમો કેવી રીતે લાગુ પડે છે તેની ચર્ચા કરવામાં અમને ખુશી થશે.
અલ્ગોરિધમિક બાયસ જવાબદારી વિશે વારંવાર પૂછાતા પ્રશ્નો
જેમ જેમ વ્યવસાયો AI માં ઊંડા ઉતરે છે, તેમ તેમ ઘણા નેતાઓ પોતાને જવાબદારી વિશે ખૂબ જ ચોક્કસ પ્રશ્નો પૂછતા જોવા મળે છે. નીચે, અમે કેટલાક સૌથી સામાન્ય અને પડકારજનક પ્રશ્નોનો સામનો કરીએ છીએ, જે તમને આ જટિલ કાનૂની ક્ષેત્રમાં નેવિગેટ કરવામાં મદદ કરવા માટે સ્પષ્ટ જવાબો પ્રદાન કરે છે.
જો આપણો તૃતીય-પક્ષ AI પક્ષપાતી હોય, તો કોણ જવાબદાર છે - વિક્રેતા કે આપણે?
આ ભાગ્યે જ એક સરળ પ્રશ્ન છે, અને જવાબ લગભગ હંમેશા હોય છે: તે જટિલ છે. જવાબદારી ઘણીવાર શેર કરવામાં આવે છે અને પરિસ્થિતિની વિશિષ્ટતાઓ પર ભારે આધાર રાખે છે. ખામીયુક્ત અથવા બિન-અનુપાલન ઉત્પાદન પહોંચાડવા માટે AI ડેવલપરને જવાબદાર ઠેરવી શકાય છે. જો કે, સિસ્ટમનો ઉપયોગ કરતી સંસ્થા તરીકે, તમારી પોતાની અલગ કાનૂની ફરજો છે.
EU AI એક્ટ અને GDPR જેવા માળખા હેઠળ, તમારી કંપની AI કેવી રીતે અમલમાં મૂકવામાં આવે છે અને તેનું નિરીક્ષણ કરવામાં આવે છે તેની જવાબદારી લે છે. આનો અર્થ એ છે કે તમે ખરીદો છો તે ટેકનોલોજીનું પરીક્ષણ કરવાની, પક્ષપાતી પરિણામો પર નજર રાખવાની અને તેનો ઉપયોગ મૂળભૂત રીતે ન્યાયી છે તેની ખાતરી કરવાની તમારી ફરજ છે.
સારી રીતે તૈયાર કરેલો કરાર તમારા અને વિક્રેતા વચ્ચે નાણાકીય જોખમ ફાળવવામાં મદદ કરી શકે છે, પરંતુ જો તમે સિસ્ટમનો ઉપયોગ અને દેખરેખ રાખવામાં બેદરકારી દાખવી હોય તો તે તમારી કંપનીને નિયમનકારી દંડ અથવા નાગરિક દાવાથી બચાવશે નહીં.
કોર્ટમાં આપણે કેવી રીતે સાબિત કરી શકીએ કે આપણું અલ્ગોરિધમ ભેદભાવપૂર્ણ નથી?
તમારો શ્રેષ્ઠ બચાવ સક્રિય અને સંપૂર્ણ દસ્તાવેજીકરણ પર બનેલો છે. તમારે AI મોડેલના સમગ્ર જીવનચક્રને આવરી લેતા ઝીણવટભર્યા રેકોર્ડ રાખવાની જરૂર છે. કાનૂની પડકાર ઊભો થયા પછી આ એવી વસ્તુ નથી જે તમે એકત્રિત કરી શકો.
તમારા દસ્તાવેજો એક જીવંત રેકોર્ડ હોવા જોઈએ જેમાં શામેલ હોવું જોઈએ:
ડેટા સોર્સિંગ: તમારા તાલીમ ડેટા ક્યાંથી આવ્યો તેના વિગતવાર લોગ, તેમજ તેને સાફ કરવા અને સહજ પૂર્વગ્રહો તપાસવા માટે તમે લીધેલા પગલાં.
મોડેલ વેલિડેશન: ભેદભાવપૂર્ણ પેટર્ન શોધવા અને સુધારવા માટે તમે જમાવટ પહેલાં કરેલા કઠોર પરીક્ષણના નક્કર પુરાવા.
નિયમિત પૂર્વગ્રહ ઓડિટ: સમય જતાં થતી કોઈપણ પૂર્વગ્રહોને પકડીને સુધારવા માટે તમે સિસ્ટમનું સતત નિરીક્ષણ કરી રહ્યા છો તેનો પુરાવો.
નિર્ણય લેવાનો તર્ક: સિસ્ટમ તેના નિષ્કર્ષ પર કેવી રીતે પહોંચે છે તેના સ્પષ્ટ, સમજી શકાય તેવા સ્પષ્ટીકરણો, ખાસ કરીને ઉચ્ચ-દાવના નિર્ણયો માટે.
EU AI કાયદા હેઠળ કોઈપણ ઉચ્ચ-જોખમવાળી AI સિસ્ટમ માટે, આ સ્તરનું ટેકનિકલ દસ્તાવેજીકરણ ફક્ત સારી પ્રથા નથી; તે એક ફરજિયાત કાનૂની જરૂરિયાત છે. આ પુરાવાનો સમૂહ એ છે જેના પર તમે યોગ્ય ખંત દર્શાવવા અને બેદરકારીના દાવાઓ સામે બચાવ કરવા માટે આધાર રાખશો.
શું સમજાવી શકાય તેવું AI (XAI) નો ઉપયોગ કરવાથી આપણી જવાબદારીનું જોખમ દૂર થાય છે?
ના, પણ તે જોખમનું સંચાલન કરવાનો એક આવશ્યક ભાગ છે. GDPR હેઠળ પારદર્શિતા જવાબદારીઓને પૂર્ણ કરવા માટે એક્સપ્લેનેબલ AI (XAI) એક મહત્વપૂર્ણ સાધન છે, કારણ કે તે અલ્ગોરિધમની નિર્ણય લેવાની પ્રક્રિયાને માનવો માટે સમજી શકાય તેવી બનાવવામાં મદદ કરે છે. તે તમને કાયદેસર રીતે ખતરનાક "બ્લેક બોક્સ" સમસ્યાથી દૂર લઈ જાય છે જ્યાં કોઈ કહી શકતું નથી કે નિર્ણય શા માટે લેવામાં આવ્યો.
જોકે, ફક્ત અન્યાયી પરિણામ સમજાવવાથી તે વાજબી બનતું નથી. જો નિર્ણયનું કારણ દર્શાવે છે કે મોડેલ સુરક્ષિત લાક્ષણિકતા પર આધાર રાખતો હતો (ઉદાહરણ તરીકે, વંશીયતા માટે પ્રોક્સી તરીકે પોસ્ટકોડનો ઉપયોગ કરવો), તો પણ તમે જવાબદાર છો.
XAI એ સુશાસન વ્યૂહરચનાનો એક મહત્વપૂર્ણ ભાગ છે, પરંતુ તે સંપૂર્ણ ઉકેલ નથી. પૂર્વગ્રહો મળી આવે ત્યારે તેને સુધારવા અને નુકસાન પામેલા લોકો માટે વાસ્તવિક ઉપાય પૂરો પાડવા માટે તેને મજબૂત પ્રક્રિયાઓ સાથે જોડવી જોઈએ.
શું આ જટિલ AI જવાબદારી નિયમો SMEs ને લાગુ પડે છે?
હા, તેઓ કરે છે. ડચ ટોર્ટ કાયદો અને ભેદભાવ વિરોધી કાયદા જેવા મુખ્ય કાનૂની સિદ્ધાંતો બધા વ્યવસાયોને લાગુ પડે છે, કદને ધ્યાનમાં લીધા વિના. જ્યારે EU AI કાયદામાં નાના અને મધ્યમ કદના સાહસો (SMEs) પર પાલનના બોજને હળવો કરવા માટે કેટલીક જોગવાઈઓ શામેલ છે, આ સંપૂર્ણ મુક્તિ નથી.
જો તમારા SME ઉચ્ચ જોખમવાળા ક્ષેત્રોમાં AI નો ઉપયોગ કરે છે - જેમ કે ભરતી, ક્રેડિટ સ્કોરિંગ, અથવા કર્મચારી કામગીરી સમીક્ષાઓ - તો તમારે મોટા કોર્પોરેશનો માટે સમાન કડક પાલન ફરજોનો સામનો કરવો પડશે. GDPR પણ સમગ્ર બોર્ડ પર લાગુ પડે છે. SME માટે, આ જોખમોને અવગણવાથી અપ્રમાણસર રીતે નુકસાનકારક દંડ અને મુકદ્દમા થઈ શકે છે, જેના કારણે તમારા AI સાધનોનું મૂલ્યાંકન કરવું અને શરૂઆતથી જ તમારી કાનૂની જવાબદારીઓને સમજવી મહત્વપૂર્ણ બને છે.
At Law & More, અમે તમારા વ્યવસાયને AI નિયમન અને જવાબદારીના જટિલ લેન્ડસ્કેપમાં નેવિગેટ કરવામાં મદદ કરવા માટે નિષ્ણાત કાનૂની સલાહ પ્રદાન કરીએ છીએ. અમારી ટીમ વ્યવહારિક, અનુરૂપ સલાહ આપે છે જેથી ખાતરી કરી શકાય કે ટેકનોલોજીનો ઉપયોગ નવીન અને સુસંગત બંને છે. તમારી પેઢીને સુરક્ષિત રાખતી સક્રિય AI શાસન વ્યૂહરચના બનાવવા માટે અમારો સંપર્ક કરો. વધુ જાણો https://lawandmore.eu.
