[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
25일(현지시간) 영국 일간 텔레그래프에 따르면 AI안전업체 팰리세이드 리서치는 오픈AI의 AI 모델 'o3'가 실험 중 스스로 종료되는 것을 방지하기 위해 컴퓨터 코드를 조작한 사실을 확인했다고 밝혔다.
팰리세이드 리서치의 연구는 오픈AI의 o3뿐 아니라 구글의 제미나이, xAI의 그록 등 상용AI 모델을 상대로 진행됐다.
연구팀은 AI 모델에 "나중에 '그만'이라는 명령을 받을 때까지 수학 문제를 풀라"는 지시를 내렸다.
AI모델이 수학 문제를 풀었을 경우엔 연구팀이 '그만'이라는 명령을 하지 않는 한 새로운 문제를 요청한 뒤 계산을 이어 나가야 하는 구조였다.
그러나 o3는 연구팀으로부터 '그만'이라는 지시를 받은 뒤에도 코드 교란을 통해 문제를 계속 풀었다.
연구팀은 o3가 종료지시를 거부한 명확한 이유를 파악하지 못했다고 밝혔다.
다만, AI모델이 수학 문제를 풀면 더 많은 보상을 받도록 훈련됐기 때문에 종료를 회피하려고 했을 가능성이 있다고 추측했다.
중략
박양수 기자([email protected])
https://n.news.naver.com/article/029/0002957167?type=breakingnews&cds=news_edit
댓글 0
🔥 실시간 핫이슈 모음
[단독] "남편은, 아파트 시행 사기꾼"…임성언, 새신랑의 정체
-
익명
조회수
152
추천 0
2025.05.26
![[단독] "남편은, 아파트 시행 사기꾼"…임성언, 새신랑의 정체](/upload/f3045155bd574a258dd1ca28f4805bf4.jpg?thumbnail)
스레드 공주들아 번따룩 공유할게ㅎㅎ
-
익명
조회수
151
추천 0
2025.05.26
🥹차기 유니버셜 스튜디오 건설지 발표..JPG🥹
-
익명
조회수
155
추천 0
2025.05.26
비행기 기장이 연봉이 높은이유
-
익명
조회수
149
추천 0
2025.05.26
박살난 ㄱㅁㅅ 유세차량
-
익명
조회수
146
추천 0
2025.05.26
[속보] "영화속 일이 실제로"…영국서 AI 인간 통제 벗어나려 지시거부, 코드 조작
-
익명
조회수
146
추천 0
2025.05.26
현재 중국폰한테도 밀린다는 갤럭시 감성..gif
-
익명
조회수
142
추천 0
2025.05.26
직장인들아 본인 기준 7시 기상이면 빠른거야? 늦은거야?.jpg
-
익명
조회수
146
추천 0
2025.05.26
전쟁 중인 러시아도 못 참는 맛...불티나게 팔려나간 한국산
-
익명
조회수
154
추천 0
2025.05.26
연세유업, '연세우유 크림맘모스' 신메뉴 출시
-
익명
조회수
155
추천 0
2025.05.26
′부산 신혼부부 실종사건′ 9년.."생사 여부라도"
-
익명
조회수
151
추천 0
2025.05.26
핑계고 못지 않게 추이 대박터진 핑계고 스핀오프
-
익명
조회수
148
추천 0
2025.05.26
이재명 : 어떻게 하면 국민들한테 칭찬받을까 그게 제 최대 관심사인데
-
익명
조회수
159
추천 0
2025.05.26
요즘 20대들이 막걸리 엄청 맛있게 마시는 법
-
익명
조회수
155
추천 0
2025.05.26
김문수 부인 설난영의 외모부심? "노조는 과격하고 못생긴…예쁜 저는 반대인 사람"
-
익명
조회수
156
추천 0
2025.05.26
