[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
출근길 만원 지하철에서 느꼈던 따스함
-
익명
조회수
218
추천 0
2025.05.24
오늘자 난리난 롯데월드 인간 러브버그 (혐주의)
-
익명
조회수
213
추천 0
2025.05.24
아기가 쓰던거 물려받은 고양이들
-
익명
조회수
216
추천 0
2025.05.24
"서른 살에 식당 알바, 잘못인가요…번호 따간 손님, 나이 듣고 연락 뚝"
-
익명
조회수
214
추천 0
2025.05.24
여행 온 일본인이 한국에서 유일하게 싫었던 점
-
익명
조회수
225
추천 0
2025.05.24
김민석 민주당 상임공동선대위원장 대담(李,조금 앞서는 정도)
-
익명
조회수
203
추천 0
2025.05.24
나무가 너무 심상치 않게 생겨서 붙은 경고문
-
익명
조회수
213
추천 0
2025.05.24
선거가 다가오자 갈등하는 오타쿠들
-
익명
조회수
222
추천 0
2025.05.24
'500억 담배소송' 항소심 내일 최종 변론…담배회사 책임 물을까(ft.내 보험료는 내가 지킨다...)
-
익명
조회수
215
추천 0
2025.05.24
방탄 진 김석진 쇼에 출연한 지미팰런
-
익명
조회수
218
추천 0
2025.05.24
🎁🎁 선물하기 좋아하는 내가 oo한 친구에게 선물해 주고 싶은 것들 같이 구경하자 🎁🎁
-
익명
조회수
220
추천 0
2025.05.24
전학을 가게된 여시. 어디 다닐지 골라보기
-
익명
조회수
209
추천 0
2025.05.24
이런 맨홀 뚜껑 보이면 절대 밟으면 안됨
-
익명
조회수
213
추천 0
2025.05.24
파스타 앱 연당기 사용자들 기준 혈당 올리는 과일 순위
-
익명
조회수
216
추천 0
2025.05.24
몽골인의 시력 클라스
-
익명
조회수
217
추천 0
2025.05.24
