[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
북한에서 부모님에게도 보여주면 안된다는 생필품
-
익명
조회수
246
추천 0
2025.05.21
흑백요리사 보고 한식대첩 정주행 중인데 백종원 개말라임.jpg
-
익명
조회수
242
추천 0
2025.05.21
물어보지도 않고 사무실 에어컨 트는 신입사원 때문에 빡침.jpg
-
익명
조회수
245
추천 0
2025.05.21
여자의 가슴 속에 구남친보다 더 아릿하게 남아 있는 존재
-
익명
조회수
242
추천 0
2025.05.21
패션이 구린지 물어보는 판녀.jpg
-
익명
조회수
249
추천 0
2025.05.21
현재 서로 충격받고있는 향수 마케팅.JPG
-
익명
조회수
245
추천 0
2025.05.21
가끔 제 주변에서 향냄새가 나요
-
익명
조회수
240
추천 0
2025.05.21
회사앞에서 어떤 새끼들이 야쿠르트 아줌마 가방 털길래
-
익명
조회수
237
추천 0
2025.05.21
이준석 : 대구에서 최저임금을 안주는건 청년들 생산성이 최저임금보다 낮기때문이다
-
익명
조회수
232
추천 0
2025.05.21
해외에서도 난리난 데블스플랜 2 반응...
-
익명
조회수
253
추천 0
2025.05.21
아내한테 12분간 혼난 남편의 충격적 진실
-
익명
조회수
265
추천 0
2025.05.21
아무리 죽고싶어도 윤석열보다 먼저 죽지 말기 아무리 포기하고싶어도 윤석열보다 먼저 포기하지 말기 운동본부
-
익명
조회수
241
추천 0
2025.05.21
中/日이 지들꺼라 우기려다 한 유물
-
익명
조회수
242
추천 0
2025.05.21
몰래 뭐 먹으려고 홈캠 돌리는 강아지
-
익명
조회수
241
추천 0
2025.05.21
남자한테 요정같다는 말을 쓸 줄 몰랐다
-
익명
조회수
250
추천 0
2025.05.21
