[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
삼겹살 먹으러 식당갔는데 딱 3개만 추가로 고를 수 있다면?
-
익명
조회수
253
추천 0
2025.05.21
현재 베트남에서 𝙈𝙄𝘾𝙃𝙄𝙉 샤라웃 받는 한국 연예인.JPG
-
익명
조회수
242
추천 0
2025.05.21
(놀람주의) 집에서 뱀 나왔는데 뱀한테 집 줘야할거같음
-
익명
조회수
246
추천 0
2025.05.21
현재 무슨 연프냐고 난리 난 데블스플랜.JPG
-
익명
조회수
245
추천 0
2025.05.21
"초등학교 교실서 남녀 교사 부적절한 관계…일부 학생 목격"
-
익명
조회수
249
추천 0
2025.05.20
매일 1시간 반씩 지각하는 신입
-
익명
조회수
260
추천 0
2025.05.20
현재 혀 청결로 말나오는 남돌.JPG
-
익명
조회수
260
추천 0
2025.05.20
카메라 꺼지고 오열했다는 태계일주 기안편
-
익명
조회수
228
추천 0
2025.05.20
현재 논란 중인 고려대 정치외교학과 축제 주점 홍보 포스터
-
익명
조회수
263
추천 0
2025.05.20
고노부에서 나눠주나? 싶었던 직장인 출퇴근 가방 세개
-
익명
조회수
256
추천 0
2025.05.20
장기연애면 이런 마음으로 결혼하는 경우도 많나요?
-
익명
조회수
248
추천 0
2025.05.20
집안일하다 서러워서 폭발한 남편.jpg
-
익명
조회수
253
추천 0
2025.05.20
'44세' 김대명, 5수 도전해 입학한 S 대학교 '21년' 만에 졸업했다
-
익명
조회수
262
추천 0
2025.05.20
결혼 13년 차 곽범이 말하는 와이프 화 풀어주는 팁.jpg
-
익명
조회수
256
추천 0
2025.05.20
실내흡연 주의 안내에 "냄새 싫은 건 본인 취향…범죄자 취급 마라"
-
익명
조회수
253
추천 0
2025.05.20
