AI ਦਾ ਅਣਦੇਖਿਆ ਦੋਸ਼ੀ: ਅੰਦਰਲੇ ਪੱਖਪਾਤ ਨੂੰ ਉਜਾਗਰ ਕਰਨਾ
ਬਿਆਸ ਬਲੌਗ ਸੀਰੀਜ਼: ਭਾਗ 1
ਜਾਣ-ਪਛਾਣ
ਬੁੱਧੀ ਦੇ ਵਧ ਰਹੇ ਨਕਲੀ ਰੂਪਾਂ ਦੀ ਸਾਡੀ ਦੁਨੀਆ ਵਿੱਚ, ਮਸ਼ੀਨਾਂ ਜਿਨ੍ਹਾਂ ਨੂੰ ਗੁੰਝਲਦਾਰ ਫੈਸਲੇ ਲੈਣ ਦਾ ਕੰਮ ਸੌਂਪਿਆ ਗਿਆ ਹੈ, ਵਧੇਰੇ ਪ੍ਰਚਲਿਤ ਹੋ ਰਹੀਆਂ ਹਨ। ਵੱਖ-ਵੱਖ ਡੋਮੇਨਾਂ ਜਿਵੇਂ ਕਿ ਵਪਾਰ, ਉੱਚ ਹਿੱਸੇਦਾਰੀ ਵਾਲੇ ਫੈਸਲੇ ਲੈਣ, ਅਤੇ ਮੈਡੀਕਲ ਖੇਤਰ ਵਿੱਚ ਪਿਛਲੇ ਕੁਝ ਸਾਲਾਂ ਵਿੱਚ AI ਦੀ ਵਰਤੋਂ ਨੂੰ ਦਰਸਾਉਂਦਾ ਸਾਹਿਤ ਦਾ ਇੱਕ ਵਧ ਰਿਹਾ ਸਮੂਹ ਹੈ। ਇਸ ਵਧ ਰਹੇ ਪ੍ਰਚਲਨ ਦੇ ਨਾਲ, ਹਾਲਾਂਕਿ, ਲੋਕਾਂ ਨੇ ਉਕਤ ਪ੍ਰਣਾਲੀਆਂ ਵਿੱਚ ਪ੍ਰਵਿਰਤੀਆਂ ਬਾਰੇ ਦੇਖਿਆ ਹੈ; ਭਾਵ, ਜਦੋਂ ਕਿ ਡੇਟਾ ਵਿੱਚ ਪੈਟਰਨਾਂ ਦੀ ਪੂਰੀ ਤਰ੍ਹਾਂ ਪਾਲਣਾ ਕਰਨ ਲਈ ਅੰਦਰੂਨੀ ਤੌਰ 'ਤੇ ਤਿਆਰ ਕੀਤਾ ਗਿਆ ਹੈ, ਉਨ੍ਹਾਂ ਨੇ ਪੱਖਪਾਤ ਦੇ ਸੰਕੇਤ ਦਿਖਾਏ ਹਨ, ਇਸ ਅਰਥ ਵਿੱਚ ਕਿ ਵੱਖ-ਵੱਖ ਲਿੰਗੀ ਅਤੇ ਵਿਤਕਰੇ ਭਰੇ ਵਿਵਹਾਰ ਨੂੰ ਦੇਖਿਆ ਜਾ ਸਕਦਾ ਹੈ। ਹਾਲੀਆ ਯੂਰਪੀਅਨ ਏਆਈ ਐਕਟ, ਅਜਿਹੇ ਪੱਖਪਾਤ ਦੇ ਮਾਮਲੇ ਨੂੰ ਵੀ ਵਿਆਪਕ ਤੌਰ 'ਤੇ ਕਵਰ ਕਰਦਾ ਹੈ ਅਤੇ ਇਸ ਨਾਲ ਜੁੜੀਆਂ ਸਮੱਸਿਆਵਾਂ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਇੱਕ ਬੁਨਿਆਦ ਨਿਰਧਾਰਤ ਕਰਦਾ ਹੈ।
ਤਕਨੀਕੀ ਦਸਤਾਵੇਜ਼ਾਂ ਦੇ ਸਾਲਾਂ ਦੌਰਾਨ, ਲੋਕਾਂ ਨੇ ਕੁਝ ਖਾਸ ਜਨਸੰਖਿਆ ਦੇ ਪ੍ਰਤੀ ਇਸ ਤਿੱਖੇ ਵਿਹਾਰ ਦਾ ਵਰਣਨ ਕਰਨ ਲਈ "ਪੱਖਪਾਤ" ਸ਼ਬਦ ਦੀ ਵਰਤੋਂ ਕਰਨ ਦਾ ਰੁਝਾਨ ਰੱਖਿਆ ਹੈ; ਇੱਕ ਸ਼ਬਦ ਜਿਸਦਾ ਅਰਥ ਵੱਖਰਾ ਹੁੰਦਾ ਹੈ, ਉਲਝਣ ਪੈਦਾ ਕਰਦਾ ਹੈ ਅਤੇ ਇਸਨੂੰ ਸੰਬੋਧਿਤ ਕਰਨ ਦੇ ਕੰਮ ਨੂੰ ਗੁੰਝਲਦਾਰ ਬਣਾਉਂਦਾ ਹੈ।
ਇਹ ਲੇਖ ਪੱਖਪਾਤ ਦੇ ਵਿਸ਼ੇ ਨੂੰ ਕਵਰ ਕਰਨ ਵਾਲੀਆਂ ਬਲੌਗ ਪੋਸਟਾਂ ਦੀ ਲੜੀ ਵਿੱਚ ਪਹਿਲਾ ਹੈ। ਇਸ ਲੜੀ ਵਿੱਚ, ਅਸੀਂ ਤੁਹਾਨੂੰ AI ਵਿੱਚ ਪੱਖਪਾਤ ਦੀ ਇੱਕ ਸਪਸ਼ਟ, ਹਜ਼ਮ ਸਮਝ ਦੇਣ ਦਾ ਟੀਚਾ ਰੱਖਾਂਗੇ। ਅਸੀਂ ਪੱਖਪਾਤ ਨੂੰ ਮਾਪਣ ਅਤੇ ਘੱਟ ਤੋਂ ਘੱਟ ਕਰਨ ਦੇ ਤਰੀਕੇ ਪੇਸ਼ ਕਰਾਂਗੇ ਅਤੇ ਵਧੇਰੇ ਨਿਰਪੱਖ ਪ੍ਰਣਾਲੀਆਂ ਲਈ ਇਸ ਮਾਰਗ ਵਿੱਚ ਸਿੰਥੈਟਿਕ ਡੇਟਾ ਦੀ ਭੂਮਿਕਾ ਦੀ ਪੜਚੋਲ ਕਰਾਂਗੇ। ਅਸੀਂ ਤੁਹਾਨੂੰ ਇਸ ਗੱਲ 'ਤੇ ਵੀ ਝਾਤ ਮਾਰਾਂਗੇ ਕਿ ਸਿੰਥੋ, ਸਿੰਥੈਟਿਕ ਡਾਟਾ ਜਨਰੇਸ਼ਨ ਵਿੱਚ ਇੱਕ ਪ੍ਰਮੁੱਖ ਖਿਡਾਰੀ, ਇਸ ਕੋਸ਼ਿਸ਼ ਵਿੱਚ ਕਿਵੇਂ ਯੋਗਦਾਨ ਪਾ ਸਕਦਾ ਹੈ। ਇਸ ਲਈ, ਭਾਵੇਂ ਤੁਸੀਂ ਇੱਕ ਪ੍ਰੈਕਟੀਸ਼ਨਰ ਹੋ ਜੋ ਕਾਰਵਾਈਯੋਗ ਸੂਝ ਦੀ ਭਾਲ ਕਰ ਰਹੇ ਹੋ ਜਾਂ ਇਸ ਵਿਸ਼ੇ ਬਾਰੇ ਸਿਰਫ਼ ਉਤਸੁਕ ਹੋ, ਤੁਸੀਂ ਸਹੀ ਥਾਂ 'ਤੇ ਹੋ।
ਐਕਸ਼ਨ ਵਿੱਚ ਪੱਖਪਾਤ: ਇੱਕ ਅਸਲ-ਸੰਸਾਰ ਉਦਾਹਰਨ
ਤੁਸੀਂ ਸ਼ਾਇਦ ਸੋਚ ਰਹੇ ਹੋਵੋਗੇ, "AI ਵਿੱਚ ਇਹ ਪੱਖਪਾਤ ਸਭ ਮਹੱਤਵਪੂਰਨ ਹੈ, ਪਰ ਮੇਰੇ ਲਈ, ਆਮ ਲੋਕਾਂ ਲਈ ਇਸਦਾ ਕੀ ਅਰਥ ਹੈ?" ਸੱਚਾਈ ਇਹ ਹੈ ਕਿ, ਪ੍ਰਭਾਵ ਬਹੁਤ ਦੂਰਗਾਮੀ ਹੈ, ਅਕਸਰ ਅਦਿੱਖ ਪਰ ਸ਼ਕਤੀਸ਼ਾਲੀ ਹੁੰਦਾ ਹੈ। AI ਵਿੱਚ ਪੱਖਪਾਤ ਸਿਰਫ਼ ਇੱਕ ਅਕਾਦਮਿਕ ਧਾਰਨਾ ਨਹੀਂ ਹੈ; ਇਹ ਗੰਭੀਰ ਨਤੀਜਿਆਂ ਵਾਲੀ ਇੱਕ ਅਸਲ-ਸੰਸਾਰ ਸਮੱਸਿਆ ਹੈ।
ਡੱਚ ਚਾਈਲਡ ਵੈਲਫੇਅਰ ਸਕੈਂਡਲ ਨੂੰ ਉਦਾਹਰਣ ਵਜੋਂ ਲਓ। ਆਟੋਮੇਟਿਡ ਸਿਸਟਮ, ਮੰਨਿਆ ਜਾਂਦਾ ਹੈ ਕਿ ਘੱਟੋ-ਘੱਟ ਮਨੁੱਖੀ ਦਖਲ ਨਾਲ ਨਿਰਪੱਖ ਅਤੇ ਕੁਸ਼ਲ ਨਤੀਜੇ ਪੈਦਾ ਕਰਨ ਲਈ ਬਣਾਇਆ ਗਿਆ ਇੱਕ ਸਾਧਨ, ਪੱਖਪਾਤੀ ਸੀ। ਇਸਨੇ ਗਲਤ ਡੇਟਾ ਅਤੇ ਧਾਰਨਾਵਾਂ ਦੇ ਅਧਾਰ ਤੇ ਧੋਖਾਧੜੀ ਲਈ ਹਜ਼ਾਰਾਂ ਮਾਪਿਆਂ ਨੂੰ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਫਲੈਗ ਕੀਤਾ। ਨਤੀਜਾ? ਇੱਕ AI ਸਿਸਟਮ ਵਿੱਚ ਪੱਖਪਾਤ ਦੇ ਕਾਰਨ, ਉਥਲ-ਪੁਥਲ ਵਿੱਚ ਫਸੇ ਪਰਿਵਾਰ, ਨਿੱਜੀ ਵੱਕਾਰ ਨੂੰ ਨੁਕਸਾਨ, ਅਤੇ ਵਿੱਤੀ ਤੰਗੀ। ਇਹ ਇਸ ਤਰ੍ਹਾਂ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਹਨ ਜੋ AI ਵਿੱਚ ਪੱਖਪਾਤ ਨੂੰ ਹੱਲ ਕਰਨ ਦੀ ਜ਼ਰੂਰੀਤਾ ਨੂੰ ਉਜਾਗਰ ਕਰਦੀਆਂ ਹਨ।
ਸਰੋਤ: "ਕੰਪਨਸੈਟੀ ਔਡਰਸ ਟੂਸਲੈਗੇਨਫੇਇਰ ਕਾਨ ਜ਼ੌਮਾਰ ਟਾਟ 2030 ਡੁਰੇਨ", 2023. ਐਨ.ਓ.ਐਸ
ਪਰ ਆਓ ਉੱਥੇ ਨਾ ਰੁਕੀਏ. ਇਹ ਘਟਨਾ ਪੱਖਪਾਤੀ ਤਬਾਹੀ ਮਚਾਉਣ ਦਾ ਕੋਈ ਵੱਖਰਾ ਮਾਮਲਾ ਨਹੀਂ ਹੈ। AI ਵਿੱਚ ਪੱਖਪਾਤ ਦਾ ਪ੍ਰਭਾਵ ਸਾਡੇ ਜੀਵਨ ਦੇ ਹਰ ਕੋਨੇ ਵਿੱਚ ਫੈਲਿਆ ਹੋਇਆ ਹੈ। ਕਿਸ ਨੂੰ ਨੌਕਰੀ ਲਈ ਨੌਕਰੀ 'ਤੇ ਰੱਖਿਆ ਜਾਂਦਾ ਹੈ, ਕਿਸ ਨੂੰ ਕਰਜ਼ੇ ਲਈ ਮਨਜ਼ੂਰੀ ਮਿਲਦੀ ਹੈ, ਕਿਸ ਨੂੰ ਕਿਸ ਤਰ੍ਹਾਂ ਦਾ ਡਾਕਟਰੀ ਇਲਾਜ ਮਿਲਦਾ ਹੈ - ਪੱਖਪਾਤੀ AI ਪ੍ਰਣਾਲੀਆਂ ਮੌਜੂਦਾ ਅਸਮਾਨਤਾਵਾਂ ਨੂੰ ਕਾਇਮ ਰੱਖ ਸਕਦੀਆਂ ਹਨ ਅਤੇ ਨਵੀਆਂ ਬਣਾ ਸਕਦੀਆਂ ਹਨ।
ਇਸ 'ਤੇ ਵਿਚਾਰ ਕਰੋ: ਪੱਖਪਾਤੀ ਇਤਿਹਾਸਕ ਡੇਟਾ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਇੱਕ AI ਸਿਸਟਮ ਇੱਕ ਚੰਗੀ ਯੋਗਤਾ ਪ੍ਰਾਪਤ ਉਮੀਦਵਾਰ ਨੂੰ ਸਿਰਫ਼ ਉਨ੍ਹਾਂ ਦੇ ਲਿੰਗ ਜਾਂ ਜਾਤੀ ਦੇ ਕਾਰਨ ਨੌਕਰੀ ਤੋਂ ਇਨਕਾਰ ਕਰ ਸਕਦਾ ਹੈ। ਜਾਂ ਇੱਕ ਪੱਖਪਾਤੀ AI ਸਿਸਟਮ ਉਹਨਾਂ ਦੇ ਪੋਸਟਕੋਡ ਦੇ ਕਾਰਨ ਇੱਕ ਯੋਗ ਉਮੀਦਵਾਰ ਨੂੰ ਕਰਜ਼ਾ ਦੇਣ ਤੋਂ ਇਨਕਾਰ ਕਰ ਸਕਦਾ ਹੈ। ਇਹ ਸਿਰਫ਼ ਕਾਲਪਨਿਕ ਦ੍ਰਿਸ਼ ਨਹੀਂ ਹਨ; ਉਹ ਇਸ ਵੇਲੇ ਹੋ ਰਹੇ ਹਨ.
ਪੱਖਪਾਤ ਦੀਆਂ ਖਾਸ ਕਿਸਮਾਂ, ਜਿਵੇਂ ਕਿ ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ ਅਤੇ ਮਾਪ ਪੱਖਪਾਤ, ਅਜਿਹੇ ਨੁਕਸਦਾਰ ਫੈਸਲਿਆਂ ਦੀ ਅਗਵਾਈ ਕਰਦੇ ਹਨ। ਉਹ ਡੇਟਾ ਵਿੱਚ ਨਿਹਿਤ ਹਨ, ਸਮਾਜਕ ਪੱਖਪਾਤ ਵਿੱਚ ਡੂੰਘੀਆਂ ਜੜ੍ਹਾਂ ਹਨ, ਅਤੇ ਵੱਖ-ਵੱਖ ਜਨਸੰਖਿਆ ਸਮੂਹਾਂ ਵਿੱਚ ਅਸਮਾਨ ਨਤੀਜਿਆਂ ਵਿੱਚ ਪ੍ਰਤੀਬਿੰਬਤ ਹਨ। ਉਹ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲੇ ਮਾਡਲਾਂ ਦੇ ਫੈਸਲਿਆਂ ਨੂੰ ਤਿਲਾਂਜਲੀ ਦੇ ਸਕਦੇ ਹਨ ਅਤੇ ਨਤੀਜੇ ਵਜੋਂ ਅਨੁਚਿਤ ਵਿਵਹਾਰ ਕਰ ਸਕਦੇ ਹਨ।
ਚੀਜ਼ਾਂ ਦੀ ਵਿਸ਼ਾਲ ਯੋਜਨਾ ਵਿੱਚ, AI ਵਿੱਚ ਪੱਖਪਾਤ ਇੱਕ ਚੁੱਪ ਪ੍ਰਭਾਵਕ ਵਜੋਂ ਕੰਮ ਕਰ ਸਕਦਾ ਹੈ, ਸਾਡੇ ਸਮਾਜ ਅਤੇ ਸਾਡੀਆਂ ਜ਼ਿੰਦਗੀਆਂ ਨੂੰ ਸੂਖਮ ਰੂਪ ਵਿੱਚ ਆਕਾਰ ਦੇ ਸਕਦਾ ਹੈ, ਅਕਸਰ ਉਨ੍ਹਾਂ ਤਰੀਕਿਆਂ ਨਾਲ ਜਿਨ੍ਹਾਂ ਦਾ ਸਾਨੂੰ ਅਹਿਸਾਸ ਵੀ ਨਹੀਂ ਹੁੰਦਾ। ਉੱਪਰ ਦੱਸੇ ਗਏ ਇਹ ਸਾਰੇ ਨੁਕਤੇ ਤੁਹਾਨੂੰ ਇਹ ਸਵਾਲ ਪੈਦਾ ਕਰ ਸਕਦੇ ਹਨ ਕਿ ਰੋਕਣ ਲਈ ਕਾਰਵਾਈਆਂ ਕਿਉਂ ਨਹੀਂ ਕੀਤੀਆਂ ਗਈਆਂ, ਅਤੇ ਕੀ ਇਹ ਸੰਭਵ ਵੀ ਹੈ।
ਦਰਅਸਲ, ਨਵੀਂ ਤਕਨੀਕੀ ਤਰੱਕੀ ਦੇ ਨਾਲ ਇਹ ਅਜਿਹੀ ਸਮੱਸਿਆ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਵਧੇਰੇ ਪਹੁੰਚਯੋਗ ਬਣ ਜਾਂਦੀ ਹੈ। ਹਾਲਾਂਕਿ, ਇਸ ਸਮੱਸਿਆ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਪਹਿਲਾ ਕਦਮ ਇਸਦੀ ਮੌਜੂਦਗੀ ਅਤੇ ਪ੍ਰਭਾਵ ਨੂੰ ਸਮਝਣਾ ਅਤੇ ਸਵੀਕਾਰ ਕਰਨਾ ਹੈ। ਹੁਣ ਲਈ, ਇਸਦੀ ਹੋਂਦ ਦੀ ਮਾਨਤਾ ਬਣਾਈ ਗਈ ਹੈ, "ਸਮਝ" ਦੇ ਮਾਮਲੇ ਨੂੰ ਅਜੇ ਵੀ ਅਸਪਸ਼ਟ ਬਣਾ ਦਿੱਤਾ ਗਿਆ ਹੈ.
ਪੱਖਪਾਤ ਨੂੰ ਸਮਝਣਾ
ਜਦੋਂ ਕਿ ਪੱਖਪਾਤ ਦੀ ਮੂਲ ਪਰਿਭਾਸ਼ਾ ਜਿਵੇਂ ਦੁਆਰਾ ਪੇਸ਼ ਕੀਤੀ ਗਈ ਹੈ ਕੈਮਬ੍ਰਿਜ ਸ਼ਬਦਕੋਸ਼ ਸ਼ਬਦ ਦੇ ਮੁੱਖ ਉਦੇਸ਼ ਤੋਂ ਬਹੁਤ ਦੂਰ ਭਟਕਦਾ ਨਹੀਂ ਹੈ ਕਿਉਂਕਿ ਇਹ AI ਨਾਲ ਸਬੰਧਤ ਹੈ, ਇਸ ਇਕਵਚਨ ਪਰਿਭਾਸ਼ਾ ਦੇ ਵੀ ਕਈ ਵੱਖ-ਵੱਖ ਵਿਆਖਿਆਵਾਂ ਕੀਤੀਆਂ ਜਾਣੀਆਂ ਹਨ। ਵਰਗੀਕਰਨ, ਜਿਵੇਂ ਕਿ ਖੋਜਕਰਤਾਵਾਂ ਦੁਆਰਾ ਪੇਸ਼ ਕੀਤੇ ਗਏ ਹਨ ਜਿਵੇਂ ਕਿ Hellström et al (2020) ਅਤੇ ਕਲੀਗਰ (2021), ਪੱਖਪਾਤ ਦੀ ਪਰਿਭਾਸ਼ਾ ਵਿੱਚ ਡੂੰਘੀ ਸਮਝ ਪ੍ਰਦਾਨ ਕਰੋ। ਹਾਲਾਂਕਿ, ਇਹਨਾਂ ਕਾਗਜ਼ਾਂ 'ਤੇ ਇੱਕ ਸਧਾਰਨ ਨਜ਼ਰ ਇਹ ਪ੍ਰਗਟ ਕਰੇਗੀ ਕਿ ਸਮੱਸਿਆ ਨੂੰ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਸ਼ਬਦ ਦੀ ਪਰਿਭਾਸ਼ਾ ਦੀ ਇੱਕ ਵੱਡੀ ਸੰਕੁਚਿਤਤਾ ਦੀ ਲੋੜ ਹੈ।
ਘਟਨਾਵਾਂ ਦੀ ਤਬਦੀਲੀ ਹੋਣ ਦੇ ਬਾਵਜੂਦ, ਪੱਖਪਾਤ ਦੇ ਅਰਥ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਕਰਨ ਅਤੇ ਵਿਅਕਤ ਕਰਨ ਲਈ, ਕੋਈ ਉਲਟ ਨੂੰ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਕਰ ਸਕਦਾ ਹੈ, ਉਹ ਹੈ ਨਿਰਪੱਖਤਾ।
ਨਿਰਪੱਖਤਾ ਦੀ ਪਰਿਭਾਸ਼ਾ
ਜਿਵੇਂ ਕਿ ਇਹ ਵੱਖ-ਵੱਖ ਹਾਲੀਆ ਸਾਹਿਤ ਵਿੱਚ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤਾ ਗਿਆ ਹੈ ਜਿਵੇਂ ਕਿ Castelnovo et al. (2022), ਸੰਭਾਵੀ ਸਪੇਸ ਸ਼ਬਦ ਦੀ ਸਮਝ ਦੇ ਆਧਾਰ 'ਤੇ ਨਿਰਪੱਖਤਾ ਦਾ ਵਰਣਨ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਜਿਵੇਂ ਕਿ ਇਹ ਮੌਜੂਦ ਹੈ, ਸੰਭਾਵੀ ਸਪੇਸ (PS) ਕਿਸੇ ਵਿਅਕਤੀ ਦੀ ਸਮਰੱਥਾ ਅਤੇ ਗਿਆਨ ਦੀ ਸੀਮਾ ਨੂੰ ਦਰਸਾਉਂਦਾ ਹੈ ਭਾਵੇਂ ਉਹ ਕਿਸੇ ਖਾਸ ਜਨਸੰਖਿਆ ਸਮੂਹ ਨਾਲ ਸਬੰਧਤ ਹੋਵੇ। PS ਦੀ ਧਾਰਨਾ ਦੀ ਇਸ ਪਰਿਭਾਸ਼ਾ ਦੇ ਮੱਦੇਨਜ਼ਰ, ਕੋਈ ਵੀ ਬਰਾਬਰ PS ਦੇ ਦੋ ਵਿਅਕਤੀਆਂ ਵਿਚਕਾਰ ਇਲਾਜ ਦੀ ਸਮਾਨਤਾ ਹੋਣ ਲਈ ਨਿਰਪੱਖਤਾ ਨੂੰ ਆਸਾਨੀ ਨਾਲ ਪਰਿਭਾਸ਼ਿਤ ਕਰ ਸਕਦਾ ਹੈ, ਪੱਖਪਾਤ ਪੈਦਾ ਕਰਨ ਵਾਲੇ ਮਾਪਦੰਡਾਂ (ਜਿਵੇਂ ਕਿ ਨਸਲ, ਉਮਰ, ਜਾਂ ਲਿੰਗ) ਵਿੱਚ ਉਹਨਾਂ ਦੇ ਵੇਖਣਯੋਗ ਅਤੇ ਲੁਕਵੇਂ ਅੰਤਰਾਂ ਦੀ ਪਰਵਾਹ ਕੀਤੇ ਬਿਨਾਂ। ਇਸ ਪਰਿਭਾਸ਼ਾ ਤੋਂ ਕੋਈ ਵੀ ਵਿਭਿੰਨਤਾ, ਜਿਸ ਨੂੰ ਮੌਕਿਆਂ ਦੀ ਸਮਾਨਤਾ ਵੀ ਕਿਹਾ ਜਾਂਦਾ ਹੈ, ਪੱਖਪਾਤ ਦਾ ਸਪੱਸ਼ਟ ਸੰਕੇਤ ਹੈ ਅਤੇ ਅੱਗੇ ਦੀ ਜਾਂਚ ਦੇ ਗੁਣ ਹਨ।
ਪਾਠਕਾਂ ਵਿੱਚੋਂ ਅਭਿਆਸੀ ਸ਼ਾਇਦ ਧਿਆਨ ਦੇਣ ਕਿ ਇੱਥੇ ਪਰਿਭਾਸ਼ਿਤ ਕੀਤੇ ਅਨੁਸਾਰ ਕੁਝ ਪ੍ਰਾਪਤ ਕਰਨਾ ਸਾਡੇ ਸੰਸਾਰ ਵਿੱਚ ਮੌਜੂਦ ਅੰਦਰੂਨੀ ਪੱਖਪਾਤ ਦੇ ਮੱਦੇਨਜ਼ਰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਅਸੰਭਵ ਹੋ ਸਕਦਾ ਹੈ। ਇਹ ਸੱਚ ਹੈ! ਜਿਸ ਸੰਸਾਰ ਵਿੱਚ ਅਸੀਂ ਰਹਿੰਦੇ ਹਾਂ, ਇਸ ਸੰਸਾਰ ਵਿੱਚ ਵਾਪਰੀਆਂ ਘਟਨਾਵਾਂ ਤੋਂ ਇਕੱਤਰ ਕੀਤੇ ਸਾਰੇ ਡੇਟਾ ਦੇ ਨਾਲ, ਬਹੁਤ ਇਤਿਹਾਸਕ ਅਤੇ ਅੰਕੜਾ ਪੱਖਪਾਤ ਦੇ ਅਧੀਨ ਹੈ। ਇਹ, ਵਾਸਤਵ ਵਿੱਚ, ਅਜਿਹੇ "ਪੱਖਪਾਤੀ" ਡੇਟਾ 'ਤੇ ਸਿਖਲਾਈ ਪ੍ਰਾਪਤ ਭਵਿੱਖਬਾਣੀ ਮਾਡਲਾਂ 'ਤੇ ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਘਟਾਉਣ ਦੇ ਇੱਕ ਦਿਨ ਦੇ ਵਿਸ਼ਵਾਸ ਨੂੰ ਘਟਾਉਂਦਾ ਹੈ। ਹਾਲਾਂਕਿ, ਵੱਖ-ਵੱਖ ਤਰੀਕਿਆਂ ਦੀ ਵਰਤੋਂ ਦੁਆਰਾ, ਕੋਈ ਵੀ ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਭਾਵਾਂ ਨੂੰ ਘੱਟ ਕਰਨ ਦੀ ਕੋਸ਼ਿਸ਼ ਕਰ ਸਕਦਾ ਹੈ। ਅਜਿਹਾ ਹੋਣ ਕਰਕੇ, ਇਸ ਬਲੌਗ ਪੋਸਟਾਂ (ਪੋਸਟਾਂ) ਦੇ ਬਾਕੀ ਹਿੱਸੇ ਵਿੱਚ ਵਰਤੀ ਗਈ ਸ਼ਬਦਾਵਲੀ ਇਸ ਨੂੰ ਪੂਰੀ ਤਰ੍ਹਾਂ ਘਟਾਉਣ ਦੀ ਬਜਾਏ ਪੱਖਪਾਤ ਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਘੱਟ ਕਰਨ ਦੇ ਵਿਚਾਰ ਵੱਲ ਬਦਲ ਜਾਵੇਗੀ।
ਠੀਕ ਹੈ! ਇਸ ਲਈ ਹੁਣ ਜਦੋਂ ਇੱਕ ਵਿਚਾਰ ਸਾਹਮਣੇ ਲਿਆਂਦਾ ਗਿਆ ਹੈ ਕਿ ਪੱਖਪਾਤ ਕੀ ਹੈ ਅਤੇ ਕੋਈ ਇਸਦੀ ਮੌਜੂਦਗੀ ਦਾ ਸੰਭਾਵੀ ਮੁਲਾਂਕਣ ਕਿਵੇਂ ਕਰ ਸਕਦਾ ਹੈ; ਜੇਕਰ ਅਸੀਂ ਸਮੱਸਿਆ ਨੂੰ ਸਹੀ ਢੰਗ ਨਾਲ ਨਜਿੱਠਣਾ ਚਾਹੁੰਦੇ ਹਾਂ, ਤਾਂ ਵੀ, ਸਾਨੂੰ ਇਹ ਜਾਣਨ ਦੀ ਲੋੜ ਹੈ ਕਿ ਇਹ ਸਾਰੇ ਪੱਖਪਾਤ ਕਿੱਥੋਂ ਪੈਦਾ ਹੁੰਦੇ ਹਨ।
ਸਰੋਤਾਂ ਅਤੇ ਕਿਸਮਾਂ ਨੂੰ ਸਮਝਣਾ
ਮੌਜੂਦਾ ਖੋਜ ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਕਿਸਮਾਂ ਦੇ ਪੱਖਪਾਤ ਬਾਰੇ ਕੀਮਤੀ ਸਮਝ ਪ੍ਰਦਾਨ ਕਰਦੀ ਹੈ। ਦੇ ਤੌਰ 'ਤੇ ਮਹਿਰਾਬੀ ਐਟ. al. (2019) ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਵਿੱਚ ਪੱਖਪਾਤ ਨੂੰ ਵੰਡਣ ਲਈ ਅੱਗੇ ਵਧਿਆ ਹੈ, ਕੋਈ ਵੀ ਪੱਖਪਾਤ ਨੂੰ 3 ਪ੍ਰਮੁੱਖ ਸ਼੍ਰੇਣੀਆਂ ਵਿੱਚ ਵੰਡ ਸਕਦਾ ਹੈ। ਅਰਥਾਤ ਇਹਨਾਂ ਵਿੱਚੋਂ:
- ਅਲਗੋਰਿਦਮ ਲਈ ਡੇਟਾ: ਇੱਕ ਸ਼੍ਰੇਣੀ ਨੂੰ ਸ਼ਾਮਲ ਕਰਨ ਵਾਲੇ ਪੱਖਪਾਤ ਜੋ ਡੇਟਾ ਤੋਂ ਹੀ ਪੈਦਾ ਹੁੰਦੇ ਹਨ। ਹੋ ਸਕਦਾ ਹੈ ਕਿ ਇਹ ਮਾੜੇ ਡੇਟਾ ਸੰਗ੍ਰਹਿ, ਸੰਸਾਰ ਵਿੱਚ ਮੌਜੂਦ ਅੰਦਰੂਨੀ ਪੱਖਪਾਤ ਆਦਿ ਦੇ ਕਾਰਨ ਹੋ ਸਕਦਾ ਹੈ।
- ਐਲਗੋਰਿਦਮ ਤੋਂ ਉਪਭੋਗਤਾ: ਪੱਖਪਾਤਾਂ 'ਤੇ ਕੇਂਦ੍ਰਤ ਕਰਨ ਵਾਲੀ ਸ਼੍ਰੇਣੀ ਜੋ ਐਲਗੋਰਿਦਮ ਦੇ ਡਿਜ਼ਾਈਨ ਅਤੇ ਕਾਰਜਕੁਸ਼ਲਤਾ ਤੋਂ ਪੈਦਾ ਹੁੰਦੀ ਹੈ। ਇਸ ਵਿੱਚ ਇਹ ਸ਼ਾਮਲ ਹੁੰਦਾ ਹੈ ਕਿ ਐਲਗੋਰਿਦਮ ਹੋਰਾਂ ਨਾਲੋਂ ਕੁਝ ਡਾਟਾ ਪੁਆਇੰਟਾਂ ਦੀ ਵਿਆਖਿਆ, ਤੋਲ ਜਾਂ ਵਿਚਾਰ ਕਿਵੇਂ ਕਰ ਸਕਦੇ ਹਨ, ਜਿਸ ਨਾਲ ਪੱਖਪਾਤੀ ਨਤੀਜੇ ਨਿਕਲ ਸਕਦੇ ਹਨ।
- ਯੂਜ਼ਰ ਟੂ ਡੇਟਾ: ਪੱਖਪਾਤਾਂ ਨਾਲ ਸਬੰਧਤ ਹੈ ਜੋ ਸਿਸਟਮ ਨਾਲ ਉਪਭੋਗਤਾ ਦੀ ਆਪਸੀ ਤਾਲਮੇਲ ਤੋਂ ਪੈਦਾ ਹੁੰਦੇ ਹਨ। ਜਿਸ ਤਰੀਕੇ ਨਾਲ ਉਪਭੋਗਤਾ ਡੇਟਾ ਨੂੰ ਇਨਪੁਟ ਕਰਦੇ ਹਨ, ਉਹਨਾਂ ਦੇ ਅੰਦਰੂਨੀ ਪੱਖਪਾਤ, ਜਾਂ ਸਿਸਟਮ ਆਉਟਪੁੱਟ ਵਿੱਚ ਉਹਨਾਂ ਦਾ ਭਰੋਸਾ ਵੀ ਨਤੀਜਿਆਂ ਨੂੰ ਪ੍ਰਭਾਵਿਤ ਕਰ ਸਕਦਾ ਹੈ।
ਚਿੱਤਰ 1: ਡੇਟਾ ਮਾਈਨਿੰਗ ਲਈ CRISP-DM ਫਰੇਮਵਰਕ ਦਾ ਦ੍ਰਿਸ਼ਟੀਕੋਣ; ਆਮ ਤੌਰ 'ਤੇ ਡੇਟਾ ਮਾਈਨਿੰਗ ਵਿੱਚ ਵਰਤਿਆ ਜਾਂਦਾ ਹੈ ਅਤੇ ਉਹਨਾਂ ਪੜਾਵਾਂ ਦੀ ਪਛਾਣ ਕਰਨ ਦੀ ਪ੍ਰਕਿਰਿਆ ਲਈ ਢੁਕਵਾਂ ਹੁੰਦਾ ਹੈ ਜਿਸ ਵਿੱਚ ਪੱਖਪਾਤ ਹੋਂਦ ਵਿੱਚ ਆ ਸਕਦਾ ਹੈ।
ਜਦੋਂ ਕਿ ਨਾਮ ਪੱਖਪਾਤ ਦੇ ਰੂਪ ਨੂੰ ਦਰਸਾਉਂਦੇ ਹਨ, ਫਿਰ ਵੀ ਕਿਸੇ ਦੇ ਕੋਲ ਪੱਖਪਾਤ ਦੀਆਂ ਕਿਸਮਾਂ ਬਾਰੇ ਸਵਾਲ ਹੋ ਸਕਦੇ ਹਨ ਜੋ ਇਹਨਾਂ ਛਤਰੀ ਸ਼ਰਤਾਂ ਅਧੀਨ ਸ਼੍ਰੇਣੀਬੱਧ ਕੀਤਾ ਜਾ ਸਕਦਾ ਹੈ। ਸਾਡੇ ਪਾਠਕਾਂ ਵਿਚਲੇ ਉਤਸ਼ਾਹੀ ਲੋਕਾਂ ਲਈ, ਅਸੀਂ ਇਸ ਸ਼ਬਦਾਵਲੀ ਅਤੇ ਵਰਗੀਕਰਨ ਨਾਲ ਸਬੰਧਤ ਕੁਝ ਸਾਹਿਤ ਦੇ ਲਿੰਕ ਪ੍ਰਦਾਨ ਕੀਤੇ ਹਨ। ਇਸ ਬਲੌਗ ਪੋਸਟ ਵਿੱਚ ਸਰਲਤਾ ਦੀ ਖ਼ਾਤਰ, ਅਸੀਂ ਕੁਝ ਚੋਣਵੇਂ ਪੱਖਪਾਤਾਂ ਨੂੰ ਕਵਰ ਕਰਾਂਗੇ ਜੋ ਸਥਿਤੀ ਨਾਲ ਸੰਬੰਧਿਤ ਹਨ (ਲਗਭਗ ਸਾਰੇ ਐਲਗੋਰਿਦਮ ਲਈ ਸ਼੍ਰੇਣੀ ਡੇਟਾ ਦੇ ਹਨ)। ਪੱਖਪਾਤ ਦੀਆਂ ਖਾਸ ਕਿਸਮਾਂ ਇਸ ਪ੍ਰਕਾਰ ਹਨ:
- ਇਤਿਹਾਸਕ ਪੱਖਪਾਤ: ਸੰਸਾਰ ਵਿੱਚ ਵੱਖ-ਵੱਖ ਸਮਾਜਿਕ ਸਮੂਹਾਂ ਅਤੇ ਆਮ ਤੌਰ 'ਤੇ ਸਮਾਜ ਵਿੱਚ ਮੌਜੂਦ ਕੁਦਰਤੀ ਪੱਖਪਾਤ ਦੇ ਕਾਰਨ ਡੇਟਾ ਦੇ ਅੰਦਰਲੇ ਪੱਖਪਾਤ ਦੀ ਇੱਕ ਕਿਸਮ। ਇਹ ਸੰਸਾਰ ਵਿੱਚ ਇਸ ਡੇਟਾ ਦੀ ਮੌਜੂਦਗੀ ਦੇ ਕਾਰਨ ਹੈ ਕਿ ਇਸਨੂੰ ਨਮੂਨੇ ਅਤੇ ਵਿਸ਼ੇਸ਼ਤਾ ਚੋਣ ਦੇ ਵੱਖ-ਵੱਖ ਸਾਧਨਾਂ ਦੁਆਰਾ ਘਟਾਇਆ ਨਹੀਂ ਜਾ ਸਕਦਾ ਹੈ।
- ਮਾਪ ਪੱਖਪਾਤ ਅਤੇ ਪ੍ਰਤੀਨਿਧਤਾ ਪੱਖਪਾਤ: ਇਹ ਦੋ ਨਜ਼ਦੀਕੀ ਸਬੰਧਿਤ ਪੱਖਪਾਤ ਉਦੋਂ ਵਾਪਰਦੇ ਹਨ ਜਦੋਂ ਡੇਟਾਸੈਟ ਦੇ ਵੱਖ-ਵੱਖ ਉਪ ਸਮੂਹਾਂ ਵਿੱਚ "ਅਨੁਕੂਲ" ਨਤੀਜਿਆਂ ਦੀ ਅਸਮਾਨ ਮਾਤਰਾ ਹੁੰਦੀ ਹੈ। ਇਸ ਤਰ੍ਹਾਂ ਦਾ ਪੱਖਪਾਤ ਭਵਿੱਖਬਾਣੀ ਕਰਨ ਵਾਲੇ ਮਾਡਲਾਂ ਦੇ ਨਤੀਜਿਆਂ ਨੂੰ ਘਟਾ ਸਕਦਾ ਹੈ
- ਐਲਗੋਰਿਦਮਿਕ ਪੱਖਪਾਤ: ਪੱਖਪਾਤ ਪੂਰੀ ਤਰ੍ਹਾਂ ਵਰਤੋਂ ਵਿੱਚ ਐਲਗੋਰਿਦਮ ਨਾਲ ਸਬੰਧਤ ਹੈ। ਜਿਵੇਂ ਕਿ ਟੈਸਟਾਂ ਵਿੱਚ ਵੀ ਦੇਖਿਆ ਗਿਆ ਹੈ (ਪੋਸਟ ਵਿੱਚ ਅੱਗੇ ਵਿਸਤ੍ਰਿਤ ਕੀਤਾ ਗਿਆ ਹੈ), ਇਸ ਕਿਸਮ ਦਾ ਪੱਖਪਾਤ ਇੱਕ ਦਿੱਤੇ ਐਲਗੋਰਿਦਮ ਦੀ ਨਿਰਪੱਖਤਾ 'ਤੇ ਬਹੁਤ ਜ਼ਿਆਦਾ ਪ੍ਰਭਾਵ ਪਾ ਸਕਦਾ ਹੈ।
ਮਸ਼ੀਨ ਲਰਨਿੰਗ ਵਿੱਚ ਪੱਖਪਾਤ ਦੀਆਂ ਇਹ ਬੁਨਿਆਦੀ ਸਮਝਾਂ ਦੀ ਵਰਤੋਂ ਬਾਅਦ ਦੀਆਂ ਪੋਸਟਾਂ ਵਿੱਚ ਸਮੱਸਿਆ ਨੂੰ ਵਧੇਰੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਨਜਿੱਠਣ ਲਈ ਕੀਤੀ ਜਾਵੇਗੀ।
ਅੰਤਿਮ ਵਿਚਾਰ
ਆਰਟੀਫੀਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਦੇ ਅੰਦਰ ਪੱਖਪਾਤ ਦੀ ਇਸ ਖੋਜ ਵਿੱਚ, ਅਸੀਂ ਸਾਡੇ ਵਧਦੀ AI-ਸੰਚਾਲਿਤ ਸੰਸਾਰ ਵਿੱਚ ਇਸ ਦੇ ਡੂੰਘੇ ਪ੍ਰਭਾਵਾਂ ਬਾਰੇ ਚਾਨਣਾ ਪਾਇਆ ਹੈ। ਡੱਚ ਚਾਈਲਡ ਵੈਲਫੇਅਰ ਸਕੈਂਡਲ ਵਰਗੀਆਂ ਅਸਲ-ਸੰਸਾਰ ਦੀਆਂ ਉਦਾਹਰਣਾਂ ਤੋਂ ਲੈ ਕੇ ਪੱਖਪਾਤ ਦੀਆਂ ਸ਼੍ਰੇਣੀਆਂ ਅਤੇ ਕਿਸਮਾਂ ਦੀਆਂ ਗੁੰਝਲਦਾਰ ਬਾਰੀਕੀਆਂ ਤੱਕ, ਇਹ ਸਪੱਸ਼ਟ ਹੈ ਕਿ ਪੱਖਪਾਤ ਨੂੰ ਪਛਾਣਨਾ ਅਤੇ ਸਮਝਣਾ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ ਹੈ।
ਜਦੋਂ ਕਿ ਪੱਖਪਾਤਾਂ ਦੁਆਰਾ ਪੈਦਾ ਹੋਈਆਂ ਚੁਣੌਤੀਆਂ - ਭਾਵੇਂ ਉਹ ਇਤਿਹਾਸਕ, ਐਲਗੋਰਿਦਮਿਕ, ਜਾਂ ਉਪਭੋਗਤਾ-ਪ੍ਰੇਰਿਤ ਹੋਣ - ਮਹੱਤਵਪੂਰਨ ਹਨ, ਉਹ ਅਸੰਭਵ ਨਹੀਂ ਹਨ। ਪੱਖਪਾਤ ਦੇ ਮੂਲ ਅਤੇ ਪ੍ਰਗਟਾਵੇ 'ਤੇ ਪੱਕੀ ਸਮਝ ਦੇ ਨਾਲ, ਅਸੀਂ ਉਨ੍ਹਾਂ ਨੂੰ ਹੱਲ ਕਰਨ ਲਈ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਤਿਆਰ ਹਾਂ। ਹਾਲਾਂਕਿ, ਮਾਨਤਾ ਅਤੇ ਸਮਝ ਸਿਰਫ ਸ਼ੁਰੂਆਤੀ ਬਿੰਦੂ ਹਨ।
ਜਿਵੇਂ ਕਿ ਅਸੀਂ ਇਸ ਲੜੀ ਵਿੱਚ ਅੱਗੇ ਵਧਦੇ ਹਾਂ, ਸਾਡਾ ਅਗਲਾ ਫੋਕਸ ਸਾਡੇ ਨਿਪਟਾਰੇ ਵਿੱਚ ਠੋਸ ਸਾਧਨਾਂ ਅਤੇ ਢਾਂਚੇ 'ਤੇ ਹੋਵੇਗਾ। ਅਸੀਂ ਏਆਈ ਮਾਡਲਾਂ ਵਿੱਚ ਪੱਖਪਾਤ ਦੀ ਹੱਦ ਨੂੰ ਕਿਵੇਂ ਮਾਪਦੇ ਹਾਂ? ਅਤੇ ਸਭ ਤੋਂ ਮਹੱਤਵਪੂਰਨ, ਅਸੀਂ ਇਸਦੇ ਪ੍ਰਭਾਵ ਨੂੰ ਕਿਵੇਂ ਘੱਟ ਕਰਦੇ ਹਾਂ? ਇਹ ਉਹ ਅਹਿਮ ਸਵਾਲ ਹਨ ਜਿਨ੍ਹਾਂ ਬਾਰੇ ਅਸੀਂ ਅੱਗੇ ਵਿਚਾਰ ਕਰਾਂਗੇ, ਇਹ ਸੁਨਿਸ਼ਚਿਤ ਕਰਦੇ ਹੋਏ ਕਿ ਜਿਵੇਂ-ਜਿਵੇਂ AI ਦਾ ਵਿਕਾਸ ਹੁੰਦਾ ਰਹਿੰਦਾ ਹੈ, ਇਹ ਅਜਿਹੀ ਦਿਸ਼ਾ ਵਿੱਚ ਕਰਦਾ ਹੈ ਜੋ ਨਿਰਪੱਖ ਅਤੇ ਪ੍ਰਦਰਸ਼ਨਕਾਰੀ ਦੋਵੇਂ ਹੋਵੇ।
ਡਾਟਾ ਸਿੰਥੈਟਿਕ ਹੈ, ਪਰ ਸਾਡੀ ਟੀਮ ਅਸਲੀ ਹੈ!
ਸਿੰਥੋ ਨਾਲ ਸੰਪਰਕ ਕਰੋ ਅਤੇ ਸਾਡੇ ਮਾਹਰਾਂ ਵਿੱਚੋਂ ਇੱਕ ਸਿੰਥੈਟਿਕ ਡੇਟਾ ਦੇ ਮੁੱਲ ਦੀ ਪੜਚੋਲ ਕਰਨ ਲਈ ਪ੍ਰਕਾਸ਼ ਦੀ ਗਤੀ ਤੇ ਤੁਹਾਡੇ ਨਾਲ ਸੰਪਰਕ ਕਰੇਗਾ!