[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
유재석이 구매한 87억짜리 아파트 내부.jpg
-
익명
조회수
212
추천 0
2025.05.24
손흥민한테 방민아가 어장관리하는거 아이유가 그당시에 먼저 하던 기술인데. 방민아가 무단 도용. 손까들 머리가 없음. 만날거면 조용히 만나지. 누가 상의도 안하고 아이유처럼
-
익명
조회수
214
추천 0
2025.05.24
여고생 성폭행 당하는데 방치
-
익명
조회수
224
추천 0
2025.05.24
닭발 너무 좋아해서 닭발집 아들이랑 사귀었음.jpg
-
익명
조회수
216
추천 0
2025.05.24
연애남매 재형 사태로 다시 끌올된 에이티즈 좌영.JPG
-
익명
조회수
223
추천 0
2025.05.24
현재 𝙅𝙊𝙉𝙉𝘼 불난데 기름부은 데블스플랜 PD
-
익명
조회수
238
추천 0
2025.05.24
연애남매 재형 입장문
-
익명
조회수
232
추천 0
2025.05.24
연애남매 재형 인스스가 실수가 아닌 이유
-
익명
조회수
231
추천 0
2025.05.24
현재 정말 억울해보이는 연애남매 재형.JPG
-
익명
조회수
217
추천 0
2025.05.24
현재 난리 난 연애남매 재형 인스타스토리.JPG
-
익명
조회수
234
추천 0
2025.05.24
전지현, 강동원 드라마 북극성 새 스틸컷 공개
-
익명
조회수
217
추천 0
2025.05.23
노무현 비하밈이 왜 아직도 활발한지, 어떻게 대처하면 좋을지 챗GPT와 대화해봄
-
익명
조회수
229
추천 0
2025.05.23
[단독] "가족과 붕어빵 먹고파"…제자 성착취물 만든 학원장, 선처 호소
-
익명
조회수
221
추천 0
2025.05.23
![[단독] "가족과 붕어빵 먹고파"…제자 성착취물 만든 학원장, 선처 호소](/upload/114dcad9b32e4a52977a873270bdf2e3.png?thumbnail)
하나로마트 한정 오리온 신상과자 4개 출시
-
익명
조회수
226
추천 0
2025.05.23
젠틀몬스터 NEW 모델.JPG
-
익명
조회수
241
추천 0
2025.05.23
