ਵਿਗਿਆਨਕ ਖੋਜ ਵਿੱਚ AI ਢਲਾਣ ਦੇ ਵਧਦੇ ਡਰ ਦੇ ਵਿਚਕਾਰ, ਨਿਊਰਲ ਇਨਫਰਮੇਸ਼ਨ ਪ੍ਰੋਸੈਸਿੰਗ ਸਿਸਟਮ (NeurIPS) ‘ਤੇ ਵੱਕਾਰੀ ਕਾਨਫਰੰਸ ਵਿੱਚ ਸਵੀਕਾਰ ਕੀਤੇ ਗਏ 51 ਤੋਂ ਵੱਧ ਪੇਪਰਾਂ ਵਿੱਚ ਜਾਅਲੀ, AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਹਵਾਲੇ ਪਾਏ ਗਏ ਸਨ।
AI ਖੋਜ ਸਟਾਰਟਅੱਪ GPTZero ਦੁਆਰਾ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਸਾਲਾਨਾ ਕਾਨਫਰੰਸ ਵਿੱਚ ਸਵੀਕਾਰ ਕੀਤੇ ਗਏ 51 ਪੇਪਰਾਂ ਵਿੱਚ 100 ਤੋਂ ਵੱਧ ਭਰਮ ਵਾਲੇ ਹਵਾਲੇ ਮਿਲੇ ਹਨ, ਜੋ ਕਿ ਆਰਟੀਫਿਸ਼ੀਅਲ ਇੰਟੈਲੀਜੈਂਸ ਅਤੇ ਮਸ਼ੀਨ ਲਰਨਿੰਗ (AI/ML) ਦੇ ਖੇਤਰ ਵਿੱਚ ਸਭ ਤੋਂ ਵੱਡੇ ਖੋਜ ਸਮਾਗਮਾਂ ਵਿੱਚੋਂ ਇੱਕ ਵਜੋਂ ਉਭਰਿਆ ਹੈ।
ਕੰਪਨੀ ਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ ਪਿਛਲੇ ਸਾਲ ਦਸੰਬਰ ਵਿੱਚ ਸੈਨ ਡਿਏਗੋ ਕੈਲੀਫੋਰਨੀਆ, ਸੰਯੁਕਤ ਰਾਜ ਵਿੱਚ ਆਯੋਜਿਤ ਨਿਊਰੀਆਈਪੀਐਸ 2025 ਵਿੱਚ ਸਵੀਕਾਰ ਕੀਤੇ ਗਏ ਕੁੱਲ 4,841 ਖੋਜ ਪੱਤਰਾਂ ਨੂੰ ਸਕੈਨ ਕੀਤਾ, ਦੋਨਾਂ ਭਰਮ ਵਾਲੇ ਹਵਾਲਿਆਂ ਦੇ ਨਾਲ-ਨਾਲ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਟੈਕਸਟ ਲਈ। ਜਦੋਂ ਕਿ 4,841 ਖੋਜ ਪੱਤਰਾਂ ਵਿੱਚੋਂ 51 ਨਕਲੀ, AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਸਰੋਤ ਅੰਕੜਾਤਮਕ ਤੌਰ ‘ਤੇ ਮਹੱਤਵਪੂਰਨ ਨਹੀਂ ਹਨ, NeurIPS LLM ਨੀਤੀ ਕਿਸੇ ਵੀ ਭਰਮ ਵਾਲੇ ਹਵਾਲਿਆਂ ਨੂੰ ਕਾਗਜ਼ ਦੇ ਅਸਵੀਕਾਰ ਜਾਂ ਰੱਦ ਕਰਨ ਦਾ ਆਧਾਰ ਮੰਨਦੀ ਹੈ।
“ਇਹ NeurIPS ਪੇਪਰ ਪਹਿਲਾਂ ਹੀ ਸਵੀਕਾਰ ਕੀਤੇ ਜਾ ਚੁੱਕੇ ਹਨ, ਲਾਈਵ ਪੇਸ਼ ਕੀਤੇ ਗਏ ਹਨ ਅਤੇ ਪ੍ਰਭਾਵਸ਼ਾਲੀ ਢੰਗ ਨਾਲ ਪ੍ਰਕਾਸ਼ਿਤ ਕੀਤੇ ਜਾ ਚੁੱਕੇ ਹਨ। ਕਿਉਂਕਿ NeurIPS 2025 ਦੀ ਮੁੱਖ ਟ੍ਰੈਕ ਪੇਪਰਾਂ ਲਈ 24.52% ਦੀ ਸਵੀਕ੍ਰਿਤੀ ਦਰ ਸੀ, ਇਹਨਾਂ ਵਿੱਚੋਂ ਹਰੇਕ ਪੇਪਰ ਨੇ ਇੱਕ ਜਾਂ ਇੱਕ ਤੋਂ ਵੱਧ ਭੁਲੇਖੇ ਹੋਣ ਦੇ ਬਾਵਜੂਦ 15,000 ਹੋਰ ਪੇਪਰਾਂ ਨੂੰ ਪਿੱਛੇ ਛੱਡ ਦਿੱਤਾ,” GPTZero ਨੇ ਬੁੱਧਵਾਰ, 1 ਜਨਵਰੀ ਨੂੰ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਬਲਾਗ ਪੋਸਟ ਵਿੱਚ ਕਿਹਾ।
ਕਿਉਂਕਿ NeurIPS AI ਖੋਜ ਦੇ ਕੁਝ ਪ੍ਰਮੁੱਖ ਦਿਮਾਗਾਂ ਦਾ ਇੱਕ ਇਕੱਠ ਹੈ, ਕਾਨਫਰੰਸ ਦੁਆਰਾ ਇੱਕ ਖੋਜ ਪੱਤਰ ਸਵੀਕਾਰ ਕਰਨਾ ਮਹੱਤਵਪੂਰਨ ਹੈ। ਹਾਲਾਂਕਿ, GPTZero ਦੀਆਂ ਖੋਜਾਂ ਦਰਸਾਉਂਦੀਆਂ ਹਨ ਕਿ ਇੱਥੋਂ ਤੱਕ ਕਿ ਦੁਨੀਆ ਦੇ ਕੁਝ ਪ੍ਰਮੁੱਖ AI ਮਾਹਰ ਇਹ ਯਕੀਨੀ ਬਣਾਉਣ ਲਈ ਸੰਘਰਸ਼ ਕਰਦੇ ਹਨ ਕਿ ਉਹ ਜੋ AI ਟੂਲ ਵਰਤਦੇ ਹਨ ਉਹ ਸਹੀ ਜਵਾਬ ਪ੍ਰਦਾਨ ਕਰਦੇ ਹਨ।
NeurIPS ਏਆਈ ਦੁਆਰਾ ਤਿਆਰ ਲਿਖਤ ਅਤੇ ਭੁਲੇਖੇ ਦੇ ਮੁੱਦੇ ਨਾਲ ਜੂਝ ਰਹੀ ਇਕਲੌਤੀ ਖੋਜ ਕਾਨਫਰੰਸ ਨਹੀਂ ਹੈ।
ਪਿਛਲੇ ਸਾਲ ਦਸੰਬਰ ਵਿੱਚ GPTZero ਦੁਆਰਾ ICLR 2026 ਲਈ ਸਮੀਖਿਆ ਅਧੀਨ ਪੇਪਰਾਂ ਵਿੱਚ 50 ਤੋਂ ਵੱਧ ਭੁਲੇਖੇ ਵਾਲੇ ਹਵਾਲਿਆਂ ਦਾ ਪਤਾ ਲਗਾਇਆ ਗਿਆ ਸੀ। ਔਨਲਾਈਨ ਪ੍ਰੀ-ਪ੍ਰਿੰਟ ਰਿਪੋਜ਼ਟਰੀਆਂ ਘੱਟ-ਗੁਣਵੱਤਾ ਵਾਲੇ, AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਖੋਜ ਪੱਤਰਾਂ ਨਾਲ ਭਰ ਗਈਆਂ ਹਨ। ਆਰਐਕਸੀਵ ਸਬਮਿਸ਼ਨਾਂ ਦੇ ਇੱਕ ਤਾਜ਼ਾ ਵਿਸ਼ਲੇਸ਼ਣ ਵਿੱਚ ਪਾਇਆ ਗਿਆ ਹੈ ਕਿ ਜੋ ਵਿਗਿਆਨੀ ਐਲਐਲਐਮ ਦੁਆਰਾ ਸੰਚਾਲਿਤ ਟੂਲ ਦੀ ਵਰਤੋਂ ਕਰਦੇ ਦਿਖਾਈ ਦਿੰਦੇ ਹਨ, ਉਨ੍ਹਾਂ ਖੋਜਕਰਤਾਵਾਂ ਨਾਲੋਂ ਲਗਭਗ 33 ਪ੍ਰਤੀਸ਼ਤ ਜ਼ਿਆਦਾ ਪੇਪਰ ਪੋਸਟ ਕੀਤੇ ਹਨ ਜੋ ਅਜਿਹੇ ਟੂਲਸ ਦੀ ਵਰਤੋਂ ਨਹੀਂ ਕਰਦੇ ਸਨ, ਦੀ ਇੱਕ ਰਿਪੋਰਟ ਅਨੁਸਾਰ ਅਟਲਾਂਟਿਕ।
ਕਹਾਣੀ ਇਸ ਵਿਗਿਆਪਨ ਦੇ ਹੇਠਾਂ ਜਾਰੀ ਹੈ
GPTZero ਨੇ ਜਾਅਲੀ ਹਵਾਲੇ ਦਾ ਪਤਾ ਕਿਵੇਂ ਲਗਾਇਆ?
GPTZero ਨੇ ਕਿਹਾ ਕਿ ਉਸਨੇ 4,000 ਤੋਂ ਵੱਧ NeurIPS ਖੋਜ ਪੱਤਰਾਂ ਵਿੱਚ ਹਵਾਲੇ ਦਿੱਤੇ ਸਰੋਤਾਂ ਨੂੰ ਸਕੈਨ ਕਰਨ ਅਤੇ ਔਨਲਾਈਨ ਨਹੀਂ ਲੱਭੇ ਜਾਣ ਵਾਲੇ ਦਸਤਾਵੇਜ਼ ਵਿੱਚ ਕਿਸੇ ਵੀ ਹਵਾਲੇ ਨੂੰ ਫਲੈਗ ਕਰਨ ਲਈ ‘ਹੈਲੂਸੀਨੇਸ਼ਨ ਚੈੱਕ’ ਨਾਮਕ ਆਪਣੇ ਅੰਦਰੂਨੀ ਵਿਕਸਤ ਏਜੰਟ AI ਟੂਲ ਦੀ ਵਰਤੋਂ ਕੀਤੀ।
ਕੰਪਨੀ ਨੇ ਇਹ ਵੀ ਕਿਹਾ ਕਿ ਇਸਦੇ ਟੂਲ ਦੁਆਰਾ ਫਲੈਗ ਕੀਤੇ ਗਏ ਹਵਾਲੇ ਇੱਕ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਜਾਅਲੀ ਹੋਣ ਦੀ ਪੁਸ਼ਟੀ ਇੱਕ ਮਨੁੱਖ ਦੁਆਰਾ ਹੱਥੀਂ ਕੀਤੀ ਗਈ ਸੀ। ਇਸਨੇ ਅਜਿਹੇ AI-ਭਰਮ ਵਾਲੇ ਹਵਾਲਿਆਂ ਨੂੰ ‘ਵਾਈਬ ਹਵਾਲੇ’ ਕਿਹਾ ਹੈ।
“ਅਸੀਂ ਇੱਕ ਵਾਈਬ ਹਵਾਲੇ ਨੂੰ ਇੱਕ ਹਵਾਲੇ ਵਜੋਂ ਪਰਿਭਾਸ਼ਿਤ ਕਰਦੇ ਹਾਂ ਜੋ ਸੰਭਾਵਤ ਤੌਰ ‘ਤੇ ਜਨਰੇਟਿਵ AI ਦੀ ਵਰਤੋਂ ਦੇ ਨਤੀਜੇ ਵਜੋਂ ਹੁੰਦਾ ਹੈ। ਸਾਡੀ ਪਰਿਭਾਸ਼ਾ ਵਿੱਚ ਸਪੱਸ਼ਟ ਸਪੈਲਿੰਗ ਗਲਤੀਆਂ, ਮਰੇ ਹੋਏ URL, ਗੁੰਮ ਲੋਕੇਟਰ, ਅਤੇ ਹੋਰ ਗਲਤੀਆਂ ਸ਼ਾਮਲ ਨਹੀਂ ਹਨ ਜੋ ਸੰਭਵ ਤੌਰ ‘ਤੇ ਮਨੁੱਖੀ ਹਨ,” ਕੰਪਨੀ ਨੇ ਕਿਹਾ।
GPTZero ਦੇ ਹੈਲੁਸੀਨੇਸ਼ਨ ਚੈੱਕ ਟੂਲ ਲੇਖਕਾਂ ਨੂੰ ਹਵਾਲੇ ਦੀਆਂ ਗਲਤੀਆਂ ਲਈ ਉਹਨਾਂ ਦੀਆਂ ਹੱਥ-ਲਿਖਤਾਂ ਦੀ ਜਾਂਚ ਕਰਨ ਲਈ ਉਪਲਬਧ ਕਰਾਇਆ ਗਿਆ ਹੈ — ਜਿਸ ਵਿੱਚ ਆਮ ਸਮੱਸਿਆਵਾਂ ਸ਼ਾਮਲ ਹਨ ਜੋ LLM ਦੀ ਸ਼ਮੂਲੀਅਤ ਤੋਂ ਬਿਨਾਂ ਹੋ ਸਕਦੀਆਂ ਹਨ ਜਿਵੇਂ ਕਿ ਡੈੱਡ ਲਿੰਕ ਜਾਂ ਅੰਸ਼ਕ ਸਿਰਲੇਖ। ਇਸ ਨੇ ਅੱਗੇ ਕਿਹਾ ਕਿ ਇਸਦਾ AI ਡਿਟੈਕਟਰ ਟੂਲ “ਸੰਪਾਦਕਾਂ ਅਤੇ ਕਾਨਫਰੰਸ ਚੇਅਰਾਂ ਨੂੰ ਇੱਕੋ ਸਮੇਂ ਏਆਈ-ਤਿਆਰ ਟੈਕਸਟ ਅਤੇ ਸ਼ੱਕੀ ਹਵਾਲਿਆਂ ਦੀ ਜਾਂਚ ਕਰਨ ਦੀ ਆਗਿਆ ਦਿੰਦਾ ਹੈ, ਜਿਸ ਨਾਲ ਤੇਜ਼ ਅਤੇ ਵਧੇਰੇ ਸਹੀ ਸੰਪਾਦਕੀ ਫੈਸਲੇ ਲਏ ਜਾਂਦੇ ਹਨ।”
ਕਹਾਣੀ ਇਸ ਵਿਗਿਆਪਨ ਦੇ ਹੇਠਾਂ ਜਾਰੀ ਹੈ
NeurIPS ਕੀ ਹੈ?
1987 ਵਿੱਚ ਸਥਾਪਿਤ, NeurIPS ਇੱਕ ਖੋਜ ਕਾਨਫਰੰਸ ਹੈ ਜੋ ਨਿਊਰਲ ਨੈਟਵਰਕਸ ਅਤੇ ਕੰਪਿਊਟੇਸ਼ਨ, ਨਿਊਰੋਬਾਇਓਲੋਜੀ ਅਤੇ ਭੌਤਿਕ ਵਿਗਿਆਨ ਵਿੱਚ ਇੰਟਰਪਲੇਅ ਦਾ ਅਧਿਐਨ ਕਰਨ ਲਈ ਸਮਰਪਿਤ ਹੈ। ਨਿਊਰਲ ਨੈੱਟਵਰਕ ਦੇ ਬਾਅਦ ਜ਼ਿਆਦਾਤਰ AI ਸਿਸਟਮਾਂ ਨੂੰ ਅੰਡਰਪਿਨ ਕਰਦਾ ਹੈ ਅੱਜ, ਕਾਨਫਰੰਸ ਇੱਕ ਪ੍ਰਮੁੱਖ AI ਇਵੈਂਟ ਵਿੱਚ ਵਿਕਸਤ ਹੋਈ ਹੈ।
ਦੁਆਰਾ ਇੱਕ ਰਿਪੋਰਟ ਦੇ ਅਨੁਸਾਰ, ਸੈਨ ਡਿਏਗੋ, ਕੈਲੀਫੋਰਨੀਆ ਵਿੱਚ ਆਯੋਜਿਤ ਕੀਤੇ ਗਏ ਨਿਊਰੀਆਈਪੀਐਸ ਦੇ 39ਵੇਂ ਸੰਸਕਰਨ ਵਿੱਚ ਪਿਛਲੇ ਸਾਲ ਰਿਕਾਰਡ ਤੋੜ 26,000 ਹਾਜ਼ਰ ਸਨ, ਜੋ ਕਿ ਛੇ ਸਾਲ ਪਹਿਲਾਂ ਨਾਲੋਂ ਦੁੱਗਣੇ ਹਨ। CNBC.
2020 ਅਤੇ 2025 ਦੇ ਵਿਚਕਾਰ, NeurIPS ਨੂੰ ਸਬਮਿਸ਼ਨ 9,467 ਤੋਂ 21,575 ਤੱਕ 220 ਪ੍ਰਤੀਸ਼ਤ ਤੋਂ ਵੱਧ ਵਧੇ ਹਨ। ਹਰੇਕ ਪੇਪਰ ਦੀ ਕਥਿਤ ਤੌਰ ‘ਤੇ ਕਈ ਲੋਕਾਂ ਦੁਆਰਾ ਪੀਅਰ-ਸਮੀਖਿਆ ਕੀਤੀ ਜਾਂਦੀ ਹੈ ਜਿਨ੍ਹਾਂ ਨੂੰ ਭੁਲੇਖੇ ਨੂੰ ਫਲੈਗ ਕਰਨ ਲਈ ਨਿਰਦੇਸ਼ ਦਿੱਤੇ ਜਾਂਦੇ ਹਨ। ਸਾਲਾਂ ਦੌਰਾਨ, ਕਾਨਫਰੰਸ ਦੇ ਪ੍ਰਬੰਧਕਾਂ ਨੂੰ “ਮਸ਼ੀਨ ਸਿਖਲਾਈ ਅਤੇ ਨਕਲੀ ਬੁੱਧੀ ਵਿੱਚ ਸਖ਼ਤ ਵਿਦਵਤਾ ਭਰਪੂਰ ਪ੍ਰਕਾਸ਼ਨ” ਦੇ ਆਪਣੇ ਦੱਸੇ ਗਏ ਮਿਸ਼ਨ ਨੂੰ ਜਾਰੀ ਰੱਖਣ ਲਈ ਵੱਡੀ ਗਿਣਤੀ ਵਿੱਚ ਸਮੀਖਿਅਕਾਂ ਦੀ ਭਰਤੀ ਕਰਨੀ ਪਈ ਹੈ।
ਵਿਅੰਗਾਤਮਕ ਤੌਰ ‘ਤੇ, NeurIPS 2025 ਤੋਂ ਮਹੀਨੇ ਪਹਿਲਾਂ ਪ੍ਰਕਾਸ਼ਿਤ ਇੱਕ ਖੋਜ ਪੱਤਰ ਦਾ ਸਿਰਲੇਖ ‘ਦਿ ਏਆਈ ਕਾਨਫਰੰਸ ਪੀਅਰ ਰਿਵਿਊ ਕਰਾਈਸਿਸ’ ਸੀ ਅਤੇ ਕਾਨਫਰੰਸ ਵਿੱਚ AI ਦੁਆਰਾ ਤਿਆਰ ਕੀਤੇ ਗਏ, ਜਾਅਲੀ ਹਵਾਲੇ ਦੇ ਮੁੱਦੇ ਨੂੰ ਇੱਕ ਸੰਭਾਵੀ ਸਮੱਸਿਆ ਵਜੋਂ ਪਛਾਣਿਆ ਗਿਆ ਸੀ।
