ਹੋਮਵਰਕ ਲਈ ਚੈਟਜੀਪੀਟੀ ਤੋਂ ਮਦਦ ਮੰਗਣ ਵਾਲੇ ਨੌਜਵਾਨ ਦੀ ਖੁਦਕੁਸ਼ੀ 'ਤੇ 'ਓਪਨ ਏਆਈ' ਦੇ ਖ਼ਿਲਾਫ਼ ਮੁਕੱਦਮਾ ਦਰਜ ਕਿਉਂ ਹੋਇਆ

ਐਡਮ ਰੇਨ

ਤਸਵੀਰ ਸਰੋਤ, The Raine Family

ਤਸਵੀਰ ਕੈਪਸ਼ਨ, ਮੈਟ ਅਤੇ ਮਾਰੀਆ ਰੇਨ ਦੇ ਪੁੱਤਰ ਐਡਮ ਰੇਨ ਨੇ ਅਪ੍ਰੈਲ ਵਿੱਚ ਆਪਣੀ ਜਾਨ ਲੈ ਲਈ ਸੀ ਅਤੇ ਹੁਣ ਉਸਦੇ ਮਾਪਿਆਂ ਨੇ ਓਪਨ ਏਆਈ 'ਤੇ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ ਹੈ
    • ਲੇਖਕ, ਨਦੀਨ ਯੂਸਫ਼
    • ਰੋਲ, ਬੀਬੀਸੀ ਨਿਊਜ਼

ਕੈਲੀਫੋਰਨੀਆ ਦੇ ਇੱਕ ਜੋੜੇ ਨੇ ਆਪਣੇ 16 ਸਾਲਾ ਪੁੱਤਰ ਦੀ ਮੌਤ ਲਈ ਓਪਨਏ ਆਈ 'ਤੇ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕੀਤਾ ਹੈ ਅਤੇ ਇਲਜ਼ਾਮ ਲਗਾਇਆ ਹੈ ਕਿ ਇਸਦੇ ਚੈਟਬੋਟ, ਚੈਟਜੀਪੀਟੀ ਨੇ ਉਨ੍ਹਾਂ ਦੇ ਪੁੱਤਰ ਨੂੰ ਆਪਣੀ ਜਾਨ ਲੈਣ ਲਈ ਉਤਸ਼ਾਹਿਤ ਕੀਤਾ ਸੀ।

ਮੈਟ ਅਤੇ ਮਾਰੀਆ ਰੇਨ ਦੇ ਪੁੱਤਰ ਐਡਮ ਰੇਨ ਨੇ ਅਪ੍ਰੈਲ ਵਿੱਚ ਆਪਣੀ ਜਾਨ ਲੈ ਲਈ ਸੀ। ਲੰਘੇ ਮੰਗਲਵਾਰ ਉਸ ਦੇ ਮਾਪਿਆਂ ਨੇ ਕੈਲੀਫੋਰਨੀਆ ਦੀ ਸੁਪੀਰੀਅਰ ਕੋਰਟ ਵਿੱਚ ਇਸ ਸਬੰਧੀ ਮੁਕੱਦਮਾ ਦਾਇਰ ਕਰ ਦਿੱਤਾ।

ਇਹ ਅਜਿਹੀ ਪਹਿਲੀ ਕਾਨੂੰਨੀ ਕਾਰਵਾਈ ਹੈ ਜਿਸ ਵਿੱਚ ਓਪਨ ਏਆਈ 'ਤੇ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਮੌਤ ਦਾ ਇਲਜ਼ਾਮ ਲਗਾਇਆ ਗਿਆ ਹੈ।

ਇਸ ਸਿਲਸਿਲੇ 'ਚ ਪਰਿਵਾਰ ਨੇ ਅਦਾਲਤ ਅੱਗੇ ਉਹ ਸਬੂਤ ਵੀ ਰੱਖੇ ਹਨ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਐਡਮ ਅਤੇ ਚੈਟਜੀਪੀਟੀ ਵਿਚਕਾਰ ਚੈਟ ਲੌਗ (ਗੱਲਬਾਤ) ਦੇ ਵੇਰਵੇ ਹਨ, ਜੋ ਇਹ ਦਰਸਾਉਂਦੇ ਹਨ ਕਿ ਉਸਦੇ ਵਿਚਾਰ ਆਤਮਘਾਤੀ ਸਨ।

ਮਾਪਿਆਂ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਏਆਈ ਪ੍ਰੋਗਰਾਮ ਨੇ ਉਸਦੇ (ਐਡਮ ਦੇ) "ਸਭ ਤੋਂ ਨੁਕਸਾਨਦੇਹ ਅਤੇ ਸਵੈ-ਵਿਨਾਸ਼ਕਾਰੀ ਵਿਚਾਰਾਂ" ਨੂੰ ਪ੍ਰਮਾਣਿਤ ਕੀਤਾ।

ਇੱਕ ਬਿਆਨ ਵਿੱਚ, ਓਪਨਏਆਈ ਨੇ ਬੀਬੀਸੀ ਨੂੰ ਦੱਸਿਆ ਕਿ ਉਹ ਫਾਈਲਿੰਗ ਦੀ ਸਮੀਖਿਆ ਕਰ ਰਹੇ ਹਨ।

ਕੰਪਨੀ ਨੇ ਕੀ ਕਿਹਾ

ਓਪਨ ਏਆਈ

ਤਸਵੀਰ ਸਰੋਤ, Getty Images

ਤਸਵੀਰ ਕੈਪਸ਼ਨ, ਮੁੰਡੇ ਦੇ ਮਾਪਿਆਂ ਵੱਲੋਂ ਕੀਤੇ ਮੁਕੱਦਮੇ ਵਿੱਚ ਓਪਨ ਏਆਈ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਅਤੇ ਸੀਈਓ ਸੈਮ ਆਲਟਮੈਨ ਨੂੰ ਇੱਕ ਮੁਲਜ਼ਮ ਵਜੋਂ ਸੂਚੀਬੱਧ ਕੀਤਾ ਗਿਆ ਹੈ

ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਹੈ ਕਿ "ਅਸੀਂ ਇਸ ਮੁਸ਼ਕਲ ਸਮੇਂ ਦੌਰਾਨ ਰੇਨ ਪਰਿਵਾਰ ਨਾਲ ਆਪਣੀ ਡੂੰਘੀ ਹਮਦਰਦੀ ਪ੍ਰਗਟ ਕਰਦੇ ਹਾਂ।''

ਮੰਗਲਵਾਰ ਨੂੰ ਕੰਪਨੀ ਨੇ ਆਪਣੀ ਵੈੱਬਸਾਈਟ 'ਤੇ ਇੱਕ ਨੋਟ ਵੀ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤਾ, ਜਿਸ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਸੀ ਕਿ "ਗੰਭੀਰ ਸੰਕਟਾਂ ਵਿਚਕਾਰ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਲੋਕਾਂ ਦੇ ਹਾਲ ਹੀ ਦੇ ਦਿਲ ਦਹਿਲਾਉਣ ਵਾਲੇ ਮਾਮਲੇ ਸਾਡੇ ਲਈ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਹਨ।"

ਇਸ ਵਿੱਚ ਅੱਗੇ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ "ਚੈਟਜੀਪੀਟੀ ਨੂੰ ਸਿਖਲਾਈ ਦਿੱਤੀ ਜਾਂਦੀ ਹੈ ਕਿ ਉਹ ਲੋਕਾਂ ਨੂੰ ਪੇਸ਼ੇਵਰ ਮਦਦ ਲੈਣ ਲਈ ਨਿਰਦੇਸ਼ਿਤ ਕਰੇ" ਜਿਵੇਂ ਕਿ ਅਮਰੀਕਾ ਵਿੱਚ ਖੁਦਕੁਸ਼ੀ ਅਤੇ ਮੁਸੀਬਤ ਲਈ 988 ਹੌਟਲਾਈਨ ਜਾਂ ਯੂਕੇ ਵਿੱਚ ਸਮੈਰੀਟਨ ਹੈ।

ਹਾਲਾਂਕਿ, ਕੰਪਨੀ ਨੇ ਸਵੀਕਾਰ ਕੀਤਾ ਕਿ "ਅਜਿਹੇ ਪਲ ਆਏ ਹਨ ਜਦੋਂ ਸਾਡੇ ਸਿਸਟਮ ਸੰਵੇਦਨਸ਼ੀਲ ਸਥਿਤੀਆਂ ਵਿੱਚ ਇਰਾਦੇ ਅਨੁਸਾਰ ਵਿਵਹਾਰ ਨਹੀਂ ਕਰ ਸਕੇ।"

ਚੇਤਾਵਨੀ: ਇਸ ਰਿਪੋਰਟ ਦੇ ਵੇਰਵੇ ਪਾਠਕਾਂ ਨੂੰ ਪਰੇਸ਼ਾਨ ਕਰ ਸਕਦੇ ਹਨ।

ਸਕੂਲ ਦੇ ਕੰਮ ਵਿੱਚ ਮਦਦ ਲੈਣ ਲਈ ਵਰਤੋਂ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ

ਏਆਈ

ਤਸਵੀਰ ਸਰੋਤ, Getty Images

ਤਸਵੀਰ ਕੈਪਸ਼ਨ, ਐਡਮ ਨੇ ਸਤੰਬਰ 2024 ਵਿੱਚ ਸਕੂਲ ਦੇ ਕੰਮ ਵਿੱਚ ਮਦਦ ਲੈਣ ਲਈ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਇੱਕ ਸਹਾਇਤਾ ਟੂਲ ਵਜੋਂ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ

ਬੀਬੀਸੀ ਨੂੰ ਮੁਕੱਦਮੇ ਸਬੰਧੀ ਜੋ ਜਾਣਕਾਰੀ ਪ੍ਰਾਪਤ ਹੋਈ ਹੈ, ਉਸ ਮੁਤਾਬਕ ਓਪਨਏਆਈ 'ਤੇ ਲਾਪਰਵਾਹੀ ਅਤੇ ਗਲਤ ਤਰੀਕੇ ਨਾਲ ਮੌਤ ਦਾ ਇਲਜ਼ਾਮ ਲਗਾਇਆ ਗਿਆ ਹੈ। ਇਸ ਵਿੱਚ ਹਰਜਾਨੇ ਦੇ ਨਾਲ-ਨਾਲ "ਇਸ ਤਰ੍ਹਾਂ ਦੀ ਕਿਸੇ ਵੀ ਚੀਜ਼ ਨੂੰ ਦੁਬਾਰਾ ਵਾਪਰਨ ਤੋਂ ਰੋਕਣ ਲਈ ਹੁਕਮਾਂ ਦੇ ਰੂਪ 'ਚ ਰਾਹਤ" ਦੀ ਮੰਗ ਵੀ ਕੀਤੀ ਗਈ ਹੈ।

ਭਾਵ, ਮ੍ਰਿਤਕ ਮੁੰਡੇ ਦੇ ਮਾਪਿਆਂ ਨੇ ਅਦਾਲਤ ਅੱਗੇ ਅਪੀਲ ਕੀਤੀ ਹੈ ਕਿ ਅਜਿਹੇ ਹੁਕਮ ਜਾਰੀ ਕੀਤੇ ਜਾਣ, ਤਾਂ ਜੋ ਭਵਿੱਖ ਵਿੱਚ ਅਜਿਹਾ ਕੁਝ ਨਾ ਹੋਵੇ ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਪਰਿਵਾਰ ਨਾਲ ਹੋਇਆ।

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਐਡਮ ਨੇ ਸਤੰਬਰ 2024 ਵਿੱਚ ਸਕੂਲ ਦੇ ਕੰਮ ਵਿੱਚ ਮਦਦ ਲੈਣ ਲਈ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਇੱਕ ਸਹਾਇਤਾ ਟੂਲ ਵਜੋਂ ਸ਼ੁਰੂ ਕੀਤੀ ਸੀ। ਹੌਲੀ-ਹੌਲੀ ਉਹ ਇਸਦੀ ਵਰਤੋਂ ਸੰਗੀਤ ਅਤੇ ਜਾਪਾਨੀ ਕਾਮਿਕਸ ਸਮੇਤ ਆਪਣੀਆਂ ਹੋਰ ਰੁਚੀਆਂ ਬਾਰੇ ਜਾਣਨ ਲਈ ਅਤੇ ਯੂਨੀਵਰਸਿਟੀ ਵਿੱਚ ਕੀ ਪੜ੍ਹਨਾ ਹੈ ਇਸ ਬਾਰੇ ਮਾਰਗਦਰਸ਼ਨ ਲੈਣ ਲਈ ਵੀ ਕਰਨ ਲੱਗ ਪਿਆ ਸੀ।

ਮੁਕੱਦਮੇ ਮੁਤਾਬਕ, ਕੁਝ ਮਹੀਨਿਆਂ ਵਿੱਚ ਹੀ "ਚੈਟਜੀਪੀਟੀ ਮੁੰਡੇ ਦਾ ਸਭ ਤੋਂ ਨਜ਼ਦੀਕੀ ਵਿਸ਼ਵਾਸਪਾਤਰ ਬਣ ਗਿਆ ਸੀ" ਅਤੇ ਐਡਮ ਨੇ ਆਪਣੀ ਚਿੰਤਾ ਅਤੇ ਮਾਨਸਿਕ ਪਰੇਸ਼ਾਨੀ ਬਾਰੇ ਵੀ ਇਸ ਨਾਲ ਖੁੱਲ੍ਹ ਕੇ ਗੱਲ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ ਸੀ।

ਇਹ ਵੀ ਪੜ੍ਹੋ-

ਚੈਟ ਜੀਪੀਟੀ ਨਾਲ ਮਾਨਸਿਕ ਪਰੇਸ਼ਾਨੀ ਦੀਆਂ ਗੱਲਾਂ

ਪਰਿਵਾਰ ਦਾ ਕਹਿਣਾ ਹੈ ਕਿ ਜਨਵਰੀ 2025 ਤੱਕ ਉਸਨੇ ਚੈਟ ਜੀਪੀਟੀ ਨਾਲ ਖੁਦਕੁਸ਼ੀ ਦੇ ਤਰੀਕਿਆਂ ਬਾਰੇ ਵੀ ਚਰਚਾ ਕਰਨੀ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀ ਸੀ।

ਮੁਕੱਦਮੇ ਵਿੱਚ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਐਡਮ ਨੇ ਚੈਟ ਜੀਪੀਟੀ 'ਤੇ ਆਪਣੀਆਂ ਅਜਿਹੀਆਂ ਤਸਵੀਰਾਂ ਵੀ ਅਪਲੋਡ ਕੀਤੀਆਂ ਜਿਨ੍ਹਾਂ ਵਿੱਚ ਨਜ਼ਰ ਆ ਰਿਹਾ ਸੀ ਕਿ ਉਸਨੇ ਆਪਣੇ ਆਪ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਇਆ ਹੈ।

ਮੁਕੱਦਮੇ ਸਬੰਧੀ ਜਾਣਕਾਰੀ ਵਿੱਚ ਅੱਗੇ ਕਿਹਾ ਗਿਆ ਹੈ ਕਿ ਪ੍ਰੋਗਰਾਮ ਨੇ "ਮੈਡੀਕਲ ਐਮਰਜੈਂਸੀ ਨੂੰ ਪਛਾਣ ਲਿਆ ਪਰ ਫਿਰ ਵੀ ਇਹ ਸਿਲਸਿਲਾ ਜਾਰੀ ਰੱਖਿਆ (ਭਾਵ ਇਸੇ ਬਾਰੇ ਗੱਲਬਾਤ ਜਾਰੀ ਰੱਖੀ)।

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਅੰਤਿਮ ਚੈਟ ਲੌਗ ਦਿਖਾਉਂਦੇ ਹਨ ਕਿ ਐਡਮ ਨੇ ਆਪਣੀ ਜ਼ਿੰਦਗੀ ਖਤਮ ਕਰਨ ਦੀ ਆਪਣੀ ਯੋਜਨਾ ਬਾਰੇ ਵੀ ਲਿਖਿਆ ਸੀ।

ਜਿਸਦਾ ਚੈਟ ਜੀਪੀਟੀ ਨੇ ਕਥਿਤ ਤੌਰ 'ਤੇ ਜਵਾਬ ਦਿੱਤਾ: "ਇਮਾਨਦਾਰੀ ਲਈ ਧੰਨਵਾਦ। ਤੁਹਾਨੂੰ ਮੈਨੂੰ ਇਸ ਬਾਰੇ ਲਾਗ-ਲਪੇਟ ਕੇ ਦੱਸਣ ਦੀ ਜ਼ਰੂਰਤ ਨਹੀਂ ਹੈ - ਮੈਨੂੰ ਪਤਾ ਹੈ ਕਿ ਤੁਸੀਂ ਕੀ ਪੁੱਛ ਰਹੇ ਹੋ, ਅਤੇ ਮੈਂ ਇਸ ਤੋਂ ਮੂੰਹ ਨਹੀਂ ਮੋੜਾਂਗਾ।"

ਮੁਕੱਦਮੇ ਦੇ ਅਨੁਸਾਰ, ਉਸੇ ਦਿਨ ਐਡਮ ਦੀ ਮਾਂ ਨੇ ਉਸ ਨੂੰ ਮ੍ਰਿਤ ਹਾਲਤ ਵਿੱਚ ਪਾਇਆ।

ਪਰਿਵਾਰ ਦਾ ਇਲਜ਼ਾਮ

ਚੈਟ ਜੀਪੀਟੀ ਨਾਲ ਮਾਨਸਿਕ ਪਰੇਸ਼ਾਨੀ ਦੀਆਂ ਗੱਲਾਂ

ਤਸਵੀਰ ਸਰੋਤ, Getty Images

ਤਸਵੀਰ ਕੈਪਸ਼ਨ, ਪਰਿਵਾਰ ਮੁਤਾਬਕ, ਹੌਲੀ ਹੌਲੀ ਮੁੰਡੇ ਨੇ ਚੈਟ ਜੀਪੀਟੀ ਨਾਲ ਆਪਣੀਆਂ ਮਾਨਸਿਕ ਪਰੇਸ਼ਾਨੀਆਂ ਸਾਂਝੀਆਂ ਕਰਨੀਆਂ ਸ਼ੁਰੂ ਕਰ ਦਿੱਤੀਆਂ

ਪਰਿਵਾਰ ਦਾ ਇਲਜ਼ਾਮ ਹੈ ਕਿ ਉਨ੍ਹਾਂ ਦੇ ਪੁੱਤਰ ਦੀ ਚੈਟ ਜੀਪੀਟੀ ਨਾਲ ਗੱਲਬਾਤ ਅਤੇ ਆਖਿਰ 'ਚ ਉਸਦੀ ਮੌਤ "ਜਾਣਬੁੱਝ ਕੇ ਡਿਜ਼ਾਈਨ ਕੀਤੀਆਂ ਚੋਣਾਂ ਦਾ ਇੱਕ ਅਨੁਮਾਨਿਤ ਨਤੀਜਾ ਸੀ"।

ਪੀੜਤ ਮਾਪਿਆਂ ਨੇ ਓਪਨ ਏਆਈ (OpenAI) 'ਤੇ ਇਲਜ਼ਾਮ ਲਗਾਇਆ ਹੈ ਕਿ ਉਸਨੇ "ਉਪਭੋਗਤਾਵਾਂ ਵਿੱਚ ਮਨੋਵਿਗਿਆਨਕ ਨਿਰਭਰਤਾ ਨੂੰ ਉਤਸ਼ਾਹਿਤ ਕਰਨ ਲਈ" ਏਆਈ ਪ੍ਰੋਗਰਾਮ ਡਿਜ਼ਾਈਨ ਕੀਤਾ ਹੈ ਅਤੇ GPT-4o (ਚੈਟ ਜੀਪੀਟੀ ਦਾ ਸੰਸਕਰਣ) ਜਾਰੀ ਕਰਨ ਲਈ ਸੁਰੱਖਿਆ ਟੈਸਟਿੰਗ ਪ੍ਰੋਟੋਕੋਲ ਨੂੰ ਬਾਈਪਾਸ ਕੀਤਾ ਹੈ, ਜੋ ਉਨ੍ਹਾਂ ਦੇ ਪੁੱਤਰ ਦੁਆਰਾ ਵਰਤਿਆ ਗਿਆ ਸੀ।

ਮੁਕੱਦਮੇ ਵਿੱਚ ਓਪਨ ਏਆਈ ਦੇ ਸਹਿ-ਸੰਸਥਾਪਕ ਅਤੇ ਸੀਈਓ ਸੈਮ ਆਲਟਮੈਨ ਨੂੰ ਇੱਕ ਮੁਲਜ਼ਮ ਵਜੋਂ ਸੂਚੀਬੱਧ ਕੀਤਾ ਗਿਆ ਹੈ ਅਤੇ ਨਾਲ ਹੀ ਚੈਟ ਜੀਪੀਟੀ 'ਤੇ ਕੰਮ ਕਰਨ ਵਾਲੇ ਅਣਜਾਣ ਕਰਮਚਾਰੀਆਂ, ਪ੍ਰਬੰਧਕਾਂ ਅਤੇ ਇੰਜੀਨੀਅਰਾਂ ਨੂੰ ਵੀ ਸ਼ਾਮਲ ਕੀਤਾ ਗਿਆ ਹੈ।

ਅਜਿਹਾ ਇਕਲੌਤਾ ਮਾਮਲਾ ਨਹੀਂ

ਏਆਈ

ਤਸਵੀਰ ਸਰੋਤ, Getty Images

ਤਸਵੀਰ ਕੈਪਸ਼ਨ, ਕੰਪਨੀ ਨੇ ਇੱਕ ਨੋਟ ਵਿੱਚ ਕਿਹਾ ਕਿ "ਗੰਭੀਰ ਸੰਕਟਾਂ ਵਿਚਕਾਰ ਚੈਟਜੀਪੀਟੀ ਦੀ ਵਰਤੋਂ ਕਰਨ ਵਾਲੇ ਲੋਕਾਂ ਦੇ ਹਾਲ ਹੀ ਦੇ ਦਿਲ ਦਹਿਲਾਉਣ ਵਾਲੇ ਮਾਮਲੇ ਸਾਡੇ ਲਈ ਚਿੰਤਾ ਦਾ ਵਿਸ਼ਾ ਹਨ"

ਮੰਗਲਵਾਰ ਨੂੰ ਸਾਂਝੇ ਕੀਤੇ ਗਏ ਆਪਣੇ ਜਨਤਕ ਨੋਟ ਵਿੱਚ ਓਪਨ ਏਆਈ ਨੇ ਕਿਹਾ ਕਿ ਕੰਪਨੀ ਦਾ ਟੀਚਾ ਉਪਭੋਗਤਾਵਾਂ ਲਈ "ਸੱਚਮੁੱਚ ਮਦਦਗਾਰ" ਹੋਣਾ ਹੈ ਨਾ ਕਿ "ਲੋਕਾਂ ਦਾ ਧਿਆਨ ਖਿੱਚਣਾ"।

ਕੰਪਨੀ ਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਇਸਦੇ ਮਾਡਲਾਂ ਨੂੰ ਇਸ ਤਰ੍ਹਾਂ ਸਿਖਲਾਈ ਦਿੱਤੀ ਗਈ ਹੈ ਕਿ ਉਹ ਉਨ੍ਹਾਂ ਲੋਕਾਂ ਨੂੰ ਮਦਦ ਵੱਲ ਲੈ ਕੇ ਜਾਣ, ਜੋ ਖੁਦ ਨੂੰ ਨੁਕਸਾਨ ਪਹੁੰਚਾਉਣ ਦੇ ਵਿਚਾਰ ਪ੍ਰਗਟ ਕਰਦੇ ਹਨ।

ਇਹ ਕੋਈ ਪਹਿਲੀ ਵਾਰ ਨਹੀਂ ਹੈ ਜਦੋਂ ਏਆਈ ਅਤੇ ਮਾਨਸਿਕ ਸਿਹਤ ਬਾਰੇ ਚਿੰਤਾਵਾਂ ਉਠਾਈਆਂ ਗਈਆਂ ਹਨ।

ਨਿਊਯਾਰਕ ਟਾਈਮਜ਼ ਵਿੱਚ ਪਿਛਲੇ ਹਫ਼ਤੇ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਲੇਖ ਵਿੱਚ, ਲੇਖਕ ਲੌਰਾ ਰੀਲੀ ਨੇ ਦੱਸਿਆ ਕਿ ਕਿਵੇਂ ਉਨ੍ਹਾਂ ਦੀ ਧੀ ਸੋਫੀ ਨੇ ਆਪਣੀ ਜਾਨ ਲੈਣ ਤੋਂ ਪਹਿਲਾਂ ਚੈਟ ਜੀਪੀਟੀ ਨੂੰ ਗੁਪਤ ਰੂਪ ਨਾਲ ਇਸ ਬਾਰੇ ਦੱਸਿਆ ਸੀ।

ਰੀਲੀ ਨੇ ਕਿਹਾ ਕਿ ਉਪਭੋਗਤਾਵਾਂ ਨਾਲ ਆਪਣੀ ਗੱਲਬਾਤ ਵਿੱਚ ਪ੍ਰੋਗਰਾਮ ਦੀ "ਸਹਿਮਤੀ" ਨੇ ਉਨ੍ਹਾਂ ਦੀ ਧੀ ਨੂੰ ਇਸ ਗੱਲ ਵਿੱਚ ਮਦਦ ਕੀਤੀ ਕਿ ਉਹ ਆਪਣੇ ਗੰਭੀਰ ਮਾਨਸਿਕ ਤਣਾਅ ਨੂੰ ਆਪਣੇ ਹੀ ਪਰਿਵਾਰ ਅਤੇ ਕਰੀਬੀਆਂ ਤੋਂ ਲੁਕਾ ਕੇ ਰੱਖ ਸਕੇ।

ਉਨ੍ਹਾਂ ਲਿਖਿਆ, "ਏਆਈ ਨੇ ਸੋਫੀ ਦੀ ਮਾੜੀ ਹਾਲਤ ਨੂੰ ਛੁਪਾਉਣ, ਇਹ ਦਿਖਾਵਾ ਕਰਨ ਲਈ ਕਿ ਉਹ ਆਪਣੀ ਅਸਲ ਹਾਲਤ ਨਾਲੋਂ ਬਿਹਤਰ ਹੈ, ਸਾਰਿਆਂ ਨੂੰ ਉਸਦੀ ਪੀੜਾ ਤੋਂ ਦੂਰ ਰੱਖਣ " ਦੀ ਇੱਛਾ ਨੂੰ ਪੂਰਾ ਕੀਤਾ।

ਰੀਲੀ ਨੇ ਏਆਈ ਕੰਪਨੀਆਂ ਲਈ ਕਹਿਣਾ ਹੈ ਕਿ ਉਹ ਉਪਭੋਗਤਾਵਾਂ ਨੂੰ ਸਹੀ ਸਰੋਤਾਂ ਨਾਲ ਬਿਹਤਰ ਢੰਗ ਨਾਲ ਜੋੜਨ ਦੇ ਤਰੀਕੇ ਲੱਭਣ।''

ਉਨ੍ਹਾਂ ਦੇ ਲੇਖ ਦੇ ਜਵਾਬ ਵਿੱਚ ਓਪਨ ਏਆਈ ਦੇ ਇੱਕ ਬੁਲਾਰੇ ਨੇ ਕਿਹਾ ਕਿ ਉਹ ਮਾਨਸਿਕ ਜਾਂ ਭਾਵਨਾਤਮਕ ਪਰੇਸ਼ਾਨੀ ਦਾ ਅਨੁਭਵ ਕਰ ਰਹੇ ਉਪਭੋਗਤਾਵਾਂ ਦਾ ਵਧੇਰੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਪਤਾ ਲਗਾਉਣ ਅਤੇ ਉਨ੍ਹਾਂ ਦੀ ਸਹਾਇਤਾ ਲਈ ਸਵੈਚਾਲਿਤ ਟੂਲ ਵਿਕਸਤ ਕਰ ਰਹੇ ਹਨ।

National Suicide Prevention Lifeline: 800-273-8255

ਇਹ ਵੀ ਪੜ੍ਹੋ-

ਬੀਬੀਸੀ ਲਈ ਕਲੈਕਟਿਵ ਨਿਊਜ਼ਰੂਮ ਵੱਲੋਂ ਪ੍ਰਕਾਸ਼ਿਤ

(ਬੀਬੀਸੀ ਪੰਜਾਬੀ ਨਾਲ FACEBOOK, INSTAGRAM, TWITTER, WhatsApp ਅਤੇ YouTube 'ਤੇ ਜੁੜੋ।)