지난달 인공 지능 회사 인 DeepMind는 가상 실에서 몇 가지 물체의 단일 이미지를 취할 수있는 새로운 소프트웨어를 도입했으며 인간의지도 없이는 3 차원 장면이 완전히 새로운 유리한 지점에서 어떻게 보이는지를 추론했습니다. 소수의 이러한 사진 만 주어지면 생성 쿼리 네트워크 또는 GQN이라고 불리는 시스템은 간단한 비디오 게임 스타일 미로의 레이아웃을 성공적으로 모델링 할 수 있습니다.
GQN에 대한 명백한 기술 응용 프로그램이 있지만, 특히 작업을 수행하는 방법을 배우는 데 사용하는 교육 알고리즘에 특히 관심이있는 신경 과학자의 시선을 사로 잡았습니다. 제시된 이미지에서 GQN은 장면의 모습, 즉 물체가 위치 해야하는 곳, 그림자가 표면에 어떻게 떨어지고, 어떤 영역이 특정 관점에 따라 보이거나 숨겨져야하는지에 대한 예측을 생성하고 미래의 예측의 정확성을 향상시키기 위해 예측과 실제 관찰의 차이점을 사용합니다. 프로젝트의 리더 중 한 사람인 Ali Eslami는“현실과 예측의 차이점이었다”고 말했다.
Eslami의 공동 저자이자 Deepmind 동료 인 Danilo Rezende에 따르면,“알고리즘은 다음 번에 같은 상황에 직면 할 때 놀라지 않을 것입니다.”
.신경 과학자들은 비슷한 메커니즘이 뇌의 작동 방식을 유발한다고 오랫동안 의심해 왔습니다. (실제로, 이러한 추측은 GQN 팀 이이 접근법을 추구하도록 영감을 준 것의 일부입니다.)이“예측 코딩”이론에 따르면, 각 수준의인지 과정에서 뇌는 모델 또는 신념을 그 아래 수준에서 어떤 정보를 받아야하는지에 대해 모델을 생성합니다. 이러한 신념은 주어진 상황에서 경험해야 할 것에 대한 예측으로 번역되어 경험이 의미가 있도록 무엇이 있는지에 대한 최상의 설명을 제공합니다. 그런 다음 예측은 뇌의 하위 수준의 감각 영역에 대한 피드백으로 보내집니다. 뇌는 예측을 실제 감각 입력과 비교하여 내부 모델을 사용하여 불일치의 원인을 결정함으로써 할 수 있습니다. (예를 들어, 우리는 테이블의 내부 모델을 4 개의 다리로지지하는 평평한 표면으로 가질 수 있지만, 다른 것이 시야에서 절반을 차단하더라도 객체를 테이블로 식별 할 수 있습니다.)
.설명 할 수없는 예측 오류는 시스템이 뉴스 가치가있는 것으로 간주되는 곳에서 더 높은 레벨 (피드백이 아닌 "피드 포워드"신호로)으로 연결되어 시스템이주의를 기울이고 처리 할 수있는 것입니다. 유명한 신경 과학자이자 예측 코딩 가설의 선구자 중 한 명인 University College London의 Karl Friston은“이 게임은 현재 예측 오류를 억제하기 위해 내부 모델, 뇌 역학을 조정하는 것에 관한 것입니다.
지난 10 년 동안인지 과학자, 철학자 및 심리학자들은 특히 인식의 작동 방식을 설명하기 위해 설득력있는 아이디어로 예측 코딩을 취해 왔으며, 전체 뇌 전체가 무엇을하고 있는지에 대한보다 야심적이고 포괄적 인 이론을 설명했습니다. 실험 도구는 최근에만 가설의 특정 메커니즘을 직접 테스트 할 수있게 해주 었으며 지난 2 년 동안 발표 된 일부 논문은이 이론에 대한 놀라운 증거를 제공했습니다. 그럼에도 불구하고, 일부 랜드 마크 결과가 복제 할 수 있는지에 대한 최근의 논쟁에서 가장 잘 입증 된 것처럼 논란의 여지가 남아 있습니다.
커피, 크림 및 개
"나는 크림과 ____로 커피를 마신다." 공란을“설탕”으로 채우는 것은 자연스럽게 보입니다. 샌디에고 캘리포니아 대학교의 마르타 쿠타 스와 스티븐 힐러드 (Steven Hillyard)는 1980 년에 사람들에게 문장을 제시 한 일련의 실험을 수행하고 뇌 활동을 기록한 일련의 실험을 수행했을 때 본능적 인인지 과학자 마르타 쿠 타스 (Marta Kutas)와 스티븐 힐러드 (Steven Hillyard)가 은행을 이용했습니다. 마지막 단어가 제자리에 튀어 나왔을 때“설탕”으로 끝나는 대신, 문장은 다음과 같이 읽습니다. .”
연구원들은 연구의 대상이 예상치 못한 단어“개”를 발견했을 때 더 큰 뇌 반응을 관찰했는데,이 단어가 공개 된 후 약 400 밀리 초의“N400 효과”로 알려진 특정 패턴의 전기 활동 패턴이 특징입니다. 그러나 그것을 해석하는 방법은 불분명했습니다. 단어의 의미가 문장의 맥락에서 무의미했기 때문에 뇌가 반응 했습니까? 아니면 단어가 단순히 예상치 못한 상태로 반응했을 수도 있고, 두뇌가 기대할 수있는 것에 대한 예측을 위반 했는가?
2005 년 Kutas와 그녀의 팀은 후자의 가능성을 지적하는 또 다른 연구를 수행했습니다. 사람들은 다시 한 번에 한 단어 씩 문장을 다시 읽어 달라는 요청을 받았습니다. “kite”는 문장을 끝내는 가장 가능성이 가장 높은 것처럼 보였기 때문에 주제는 다음에“A”를 볼 것으로 예상했다. 참가자들이 대신“AN”을 보았을 때 (“비행기”에서와 같이) N400 효과를 경험 한 것 같습니다. 뇌는 기대와 현실 사이의 불일치를 처리해야했기 때문입니다. 그 효과는 단어의 의미 또는 제시된 자극 자체를 처리하는 데 어려움이없는 것 같습니다.
2005 년 발견은 예측 코딩 프레임 워크에 매우 적합한 것처럼 보였습니다. 그러나 지난 4 월, elife 에 출판 된 논문 여러 실험실이 결과를 복제 할 수 없다고보고했습니다. 이제 다른 연구자들이 반응하기 시작했으며 일부는 복제 방법의 미묘함이 여전히 예측 기반 해석을 선호한다고 주장합니다.
이 앞뒤로는 예측 코딩으로 둘러싸인 많은 논쟁을 반영합니다. Kutas와 같은 실험에는 많은 해석이 적용됩니다. 그것들은 예측 코딩 이외의 모델로 설명 될 수 있으며, 실제 메커니즘을 탐구하지 않기 때문에 가설에 대한 결정적인 증거에 미치지 못합니다. 이 시점에서 뇌가 끊임없이 추론을하고 (그리고 그것들을 현실과 비교하는) 아이디어는 상당히 잘 확립되어 있지만, 예측 코딩의 지지자들은 그들의 이야기의 특정 버전이 올바른 것임을 증명할 수있는 방법을 찾고 있습니다.
베이지안 뇌와 효율적인 컴퓨팅
뇌가 지속적으로 진행중인 경험에 대한 자체 예측을 영구적으로 만들고 평가하는 기본 통찰력이 항상 당연한 것으로 여겨지지는 않았습니다. 20 세기를 지배 한 신경 과학의 견해는 뇌의 기능을 특징 탐지기의 기능으로 특징 지었다. 그것은 자극의 존재를 등록하고, 그것을 처리 한 다음, 행동 반응을 생성하기 위해 신호를 보냅니다. 특정 세포에서의 활동은 물리적 세계에서 자극의 존재 유무를 반영합니다. 예를 들어, 시각 피질의 일부 뉴런은 볼 수있는 물체의 가장자리에 반응한다. 다른 사람들은 물체의 방향, 채색 또는 음영을 나타내는 것을 발사합니다.
그러나 그 과정은 그보다 훨씬 덜 간단한 것으로 판명되었습니다. 추가 테스트에 따르면 뇌가 더 길고 긴 선으로 인식 할 때 라인이 사라지지 않더라도 라인의 검출기 뉴런이 발사를 중단합니다. 그리고 너무 많은 정보가 신비한 하향식 피드백 연결을 통해 전달되는 것처럼 보였다는 사실은 다른 일이 진행되고 있다고 제안했습니다.
그곳에서“베이지안 두뇌”가 시작되는 곳은 1860 년대로 거슬러 올라가는 뿌리가있는 일반적인 프레임 워크로 전통적인 모델을 머리에 뒤집습니다. 이 이론은 뇌가 내부 모델을 기반으로 세계에 대한 확률 적 추론을 제시하며, 본질적으로 인식하는 내용을 해석하는 방법에 대한“최상의 추측”을 계산한다고 제안합니다 (베이지안 통계 규칙에 따라 이전 경험에서 얻은 관련 정보를 기반으로 한 사건의 확률을 정량화 함). 감각 정보가 인식을 주도하기를 기다리는 대신, 뇌는 항상 세상이 어떻게 작동하는지에 대한 가설을 적극적으로 구성하고 경험을 설명하고 누락 된 데이터를 채우는 데 사용합니다. 그렇기 때문에 일부 전문가에 따르면 인식을“통제 환각”이라고 생각할 수 있습니다.
.
그 정맥에서 베이지안 뇌는 시각적 환상이 작동하는 이유를 설명합니다. 예를 들어 화면에서 빠른 교대로 깜박이는 두 개의 점이 단일 도트가 앞뒤로 움직이는 것처럼 보이므로 무의식적으로 단일 물체처럼 취급하기 시작합니다. 물체가 어떻게 움직이는 지 이해하는 것은 더 높은 수준의 지식이지만, 우리가 인식하는 방식에 근본적으로 영향을 미칩니다. 뇌는 단순히 정보의 간격 (이 경우 운동에 관한 간격을 채우고 있습니다.
그러나 생성 모델과 기대치가 뇌 기능에서 작용한다는 명확한 역할에도 불구하고, 과학자들은 아직 신경 회로 수준에서 그것이 어떻게 구현되는지 정확히 정확히 지적하지 않았습니다. 스코틀랜드 에딘버러 대학교의 마음 철학 교수 인 마크 스프레 바크 (Mark Sprevak)는“베이지안 뇌 이야기는 기본 메커니즘이 무엇인지에 대해 상대적으로 불가지론 적이다.
예측 코딩 이론을 입력하십시오. 이론은 뇌가 베이지안이 될 수있는 특정 공식을 제공합니다. 예측 코딩은 통신 신호를보다 효율적으로 전송하기위한 기술에서 이름을 얻습니다. 비디오 파일에는 한 프레임에서 다음 프레임으로 많은 중복성이 포함되어 있기 때문에 데이터를 압축 할 때 모든 이미지의 모든 픽셀을 인코딩하는 것이 비효율적입니다. 대신 인접한 프레임의 차이점을 인코딩 한 다음 전체 비디오를 해석하기 위해 뒤로 작업하는 것이 더 합리적입니다.
1982 년 과학자들은이 아이디어가 신경 과학에 깔끔한 적용을 가지고 있음을 발견했습니다. 왜냐하면 망막의 뉴런이 시각적 자극에 대한 정보를 인코딩하고 시신경을 따라 전달하는 방법을 설명하는 것처럼 보이기 때문입니다. 또한 뇌의 보상 시스템 기능의 원칙으로 확대되었습니다. 도파민 뉴런은 예상되는 보상과받은 실제 보상 사이의 불일치의 크기를 인코딩합니다. 연구자들은 이러한 예측 오류는 동물이 미래의 기대치를 업데이트하고 의사 결정을 주도하는 데 도움이됩니다.
그러나 이러한 사례에도 불구하고 과학자들은 대부분 특정 네트워크와 관련된 프로세스로 예측 코딩을 보았습니다. 기능적 자기 공명 영상 테스트 및 기타 유형의 실험이이를 변경하기 시작했습니다.
범용 프레임 워크
예측 코딩 가설을 그렇게 매력적으로 만드는 것의 일부는 놀라운 설명력입니다. 에든버러 대학교의 논리 및 형이상학 교수이자 이론 전문가 인 앤디 클라크 (Andy Clark)는“내가 설득력있는 것은이 이야기에서 얼마나 많은 것들이이 이야기를 설명하는지이다.
첫째, 단일 계산 프로세스에서 인식과 모터 제어를 통합합니다. 두 사람은 본질적으로 동일한 동전의 반대편입니다. 각 경우에 뇌는 예측 오류를 최소화하지만 다른 방식으로 최소화합니다. 인식과 함께 조정되는 것은 내부 모델입니다. 모터 제어를 사용하면 실제 환경입니다. (후자의 경우, 손을 들어 올리고 싶다고 상상해보십시오. 손이 아직 올라가지 않으면 불일치가 큰 예측 오류를 일으 킵니다. 단순히 손을 움직일 때 최소화 할 수 있습니다.)
인식과 운동 제어 실험은 지금까지 예측 코딩 이론에 대한 가장 강력한 증거를 제공했습니다. 지난 달 Journal of Neuroscience 에 출판 된 논문에서 예를 들어, 실험자들은 피험자들이 화면에서“킥”이라는 단어를 읽은 다음, 큰 속삭임처럼 들리는“선택”이라는 단어의 왜곡 된 녹음을 들었습니다. 많은 사람들이 대신 "킥"을 들었고, FMRI 스캔은 뇌가 초기 "k"또는 "p"사운드를 가장 강하게 나타내는 것으로 나타났습니다. 예측 오류와 관련이있는 소리. 뇌가 단순히 지각 경험을 나타내는 경우, 가장 강력한 신호는 대신 "ick"에 해당해야합니다 (화면과 오디오 모두에 표시 되었기 때문에)
그러나 예측 코딩의 인식과 움직임 이상의 관련성을 넓히기위한 노력도 뇌에서 일어나는 모든 일의 일반적인 통화로 확립하기위한 노력이 계속되고 있습니다. 클라크는“이것은 다양한 전략을 구축 할 수있는 빌딩 블록을 갖는 것과 같습니다. 다른 뇌 영역은 단순히 다른 종류의 예측으로 거래됩니다.
Friston은 무엇보다도 이것이주의와 의사 결정을 포함한 높은인지 과정에 적용된다고 주장합니다. 전전두엽 피질에 대한 최근의 계산 작업은 작업 메모리 및 목표 지향적 행동에 예측 코딩을 연루시켰다. 일부 연구자들은 감정과 기분이 예측 코딩 용어로 공식화 될 수 있다고 이론화합니다. 감정은 뇌가 체온, 심박수 또는 혈압과 같은 내부 신호에 대한 예측 오류를 최소화하기 위해 나타나는 상태 일 수 있습니다. 예를 들어 뇌가 교반된다는 것을 인식한다면 모든 요소가 증가하고 있음을 알고 있습니다. 아마도 그것은 또한 자아의 개념이 나타날 수있는 방법이기도합니다.
이 정맥에서 수행되는 대부분의 작업은 예측 코딩이 신경 정신과 및 발달 장애를 설명 할 수있는 방법에 중점을 둡니다. Friston은“이 아이디어는 뇌가 추론 기계, 통계 기관이라면 통계학자가 만드는 것과 같은 종류의 실수를 할 것입니다.”라고 말했습니다. 즉, 예측 또는 예측 오류에 너무 강조하거나 너무 적게 강조하여 잘못된 추론을 할 것입니다.
예를 들어, 자폐증의 측면은 뇌의 처리 계층 구조의 가장 낮은 수준에서 감각 신호와 관련된 예측 오류를 무시할 수 없다는 점을 특징으로 할 수 있습니다. 그것은 감각에 대한 선입견, 반복 및 예측 가능성, 특정 환상에 대한 민감성 및 기타 효과로 이어질 수 있습니다. 정신 분열증과 같은 환각과 관련된 조건에서 그 반대는 사실 일 수 있습니다. 뇌는 일어나고있는 일에 대한 자신의 예측에 너무 많은 관심을 기울일 수 있으며 이러한 예측과 모순되는 감각 정보에 충분하지 않습니다. (그러나 전문가들은 자폐증과 정신 분열증이 너무 복잡하여 단일 설명이나 메커니즘으로 축소 되기에는 신속하게주의를 기울입니다.)
.Yale School of Medicine의 임상 신경 과학자 인 필립 코렛 (Philip Corlett)은“가장 심오한 부분은 우리의 정신 기능이 얼마나 취약한지를 보여줍니다. Corlett의 실험실 실험은 건강한 피험자들에게 이전에 경험했던 자극을 환각 시키도록 장려하는 새로운“신념”을 설정했습니다. (예를 들어, 한 실험에서 과학자들은 참가자들이 톤을 시각적 패턴과 연관 시키도록 조절했습니다. 피험자들은 소리가 전혀 없을 때도 패턴을 보았을 때 계속해서 톤을 들었습니다.) 연구자들은 그러한 신념이 어떻게 인식으로 변환되는지 풀려고 노력하고 있습니다. Corlett은“이러한 연구를 통해“인식과인지가 별도의 것이 아니라는 증거가 있습니다.”라고 Corlett은 말했습니다. “새로운 신념을 가르 칠 수 있고 당신이 인식하는 것을 바꿀 수 있습니다.”
그러나 그 증거는 증거를 제공하는 데 가깝지 않았습니다. 지금까지
더 나은 외관을 위해 확대
Sprevak은“실험 작업은 종종 특정 결과가 예측 처리와 호환되는 것을 보여 주지만 그 결과에 대한 최상의 설명은 아닙니다. 이 이론은인지 과학에서 널리 받아 들여지지 만“시스템 신경 과학 분야에서는 여전히 약간의 약자입니다. 그의 실험실은 이것을 더 어려운 증거로 바꾸려고 노력하고 있습니다.
작년에 neuron 에 발표 된 연구에서 , 켈러와 그의 동료들은 시간이 지남에 따라 예측 된 마우스의 시각 시스템에서 뉴런의 출현을 관찰했다. 그것은 사고로 시작하여 비디오 게임에서 마우스를 훈련시키기 시작했을 때 가상 세계가 방향을 혼합했음을 알기 위해서만 사고로 시작했습니다. 일반적으로 - 그리고 실험 당시까지 마우스는 왼쪽으로 향할 때마다 시력 분야가 오른쪽으로 이동하는 것을 보았습니다. 그러나 누군가가 의도하지 않은 가상 세계를이 연구에서 사용한 가상 세계를 뒤집었고, 왼쪽과 오른쪽으로 돌면서 왼쪽으로 돌면 생쥐도 왼쪽으로 시력을 경험했다는 것을 의미했습니다. 연구원들은 사고를 활용할 수 있다는 것을 깨달았습니다. 그들은이 시각적 흐름을 나타내는 뇌 신호를 모니터링했으며 마우스가 거꾸로 된 환경의 규칙을 배웠을 때 신호가 천천히 바뀌 었다는 것을 발견했습니다. 켈러는“신호는 왼쪽으로의 시각적 흐름의 예측처럼 보였습니다.
신호가 단순히 마우스의 시각적 경험을 감각적으로 표현했다면 가상 세계에서 즉시 뒤집 혔을 것입니다. 그들이 모터 신호라면 전혀 뒤집지 않았을 것입니다. 켈러는 대신“예측을 식별하는 것”이라고 말했다. "움직임이 주어진 시각적 흐름의 예측."
Clark은“이 작품은 이전에는 존재하지 않은 일종의 증거를 제공합니다. "진행되는 일에 가장 적합한 모델은 예측 코딩이라는 매우 국소적인 셀 별 층별 층별 시연입니다."
.가카크가 얼굴을 처리하는 데 사용하는 뇌의 일부에서 비슷한 결과가 거의 동시에보고되었습니다. 이전 연구는 이미 얼굴의 방향 기반 측면에 대한 네트워크 코드의 낮은 수준의 뉴런 (예를 들어 프로필의 모든면에서 발사함으로써)을 보여 주었다. 더 높은 수준에서, 뉴런은 위치보다는 정체성에주의를 기울여 얼굴을보다 추상적으로 나타냅니다. 원숭이 연구에서, 연구원들은 한 얼굴이 먼저 나타나는 한 쌍의 얼굴에 원숭이를 훈련시켰다. 나중에, 실험자들은 다른 각도에서 같은 얼굴을 보여 주거나 완전히 다른 얼굴을 보여줌으로써 특정한 방식으로 이러한 기대를 방해했습니다. 그들은 얼굴 처리 네트워크의 하위 레벨 영역에서 예측 오류를 발견했지만 이러한 오류는 오리엔테이션에 대한 예측이 아니라 정체성에 대한 예측과 관련이 있습니다. 즉, 오류는 시스템의 더 높은 수준에서 일어나고있는 일에서 비롯된 것입니다. 더 낮은 레벨은 들어오는 인식을 더 높은 레벨에서 내려 오는 예측과 비교하여 오류 신호를 구성 함을 시사합니다.
.이 논문의 주요 저자 인 Caspar Schwiedrzik은 독일의 유럽 신경 과학 연구소 인 Göttingen의 신경 과학자 인 Caspar Schwiedrzik은“예측 오류를 찾고 그 시스템에서 특정 예측 내용을 찾는 것은 흥미로웠다”고 말했다.
독일 프랑크푸르트의 Max Planck Institute for Empirical Aesthetics의 연구원 인 Lucia Melloni에 따르면, 그녀의 그룹은 현재 인간으로부터 수집되고있는 신경 데이터의 예측 오류에 대한 설명과 호환되는 결과를보기 시작했습니다.
.더 많은 예측 기계를 찾기위한 레이스
모든 사람이 뇌의 예측 코딩 사례가 강화되고 있다는 데 동의하지는 않습니다. 일부 과학자들은 이론이 인식의 특정 측면을 설명 할 수 있지만 모든 것을 설명 할 수 있다는 생각을 거부한다는 것을 인정합니다. 다른 사람들은 그렇게 많이 인정하지 않습니다. 뉴욕 대학교의 심리학 교수 인 데이비드 허거 (David Heeger)에게 정보를 효율적으로 전송하는“예측 코딩”과 시간이 지남에 따라 예측 결정으로 정의하는“예측 처리”를 구별하는 것이 중요합니다. "문학에는 많은 혼란이있다. 왜냐하면 이러한 것들은 모두 같은 수프의 일부로 가정 되었기 때문"이라고 그는 말했다. "그리고 그것이 반드시 그런 것은 아니며, 그것을 연구하는 데 앞으로 나아가는 가장 좋은 방법은 아닙니다." 예를 들어, 다른 유형의 베이지안 모델은 특정 상황에서 뇌 기능에 대한보다 정확한 설명을 제공 할 수 있습니다.
그러나이 분야의 많은 전문가들이 동의하는 것은이 연구가 머신 러닝에서 흥미로운 응용을 할 수 있다는 것입니다. 현재 대다수의 인공 지능 연구에는 예측 코딩이 포함되지 않고 다른 종류의 알고리즘에 중점을 둡니다.
그러나 깊은 학습 맥락에서 예측 코딩 아키텍처를 공식화하는 것은 기계를 인텔리전스에 더 가깝게 만들 수 있다고 Friston은 주장합니다.
.DeepMind의 GQN은 그 잠재력의 좋은 예가됩니다. 그리고 작년에 Sussex University의 연구원들은 예측 코딩 기능을 포함하는 가상 현실 및 인공 지능 기술을 사용하여“환각 기계”라고 불리는 것을 만들어 냈습니다.
머신 러닝 발전은 예측 코딩 모델이 다른 기술에 대해 얼마나 잘 수행되는지 비교하여 뇌에서 일어나는 일에 대한 새로운 통찰력을 제공하는 데 사용될 수 있습니다. 최소한 인공 시스템에 예측 코딩을 도입하는 것은 해당 기계의 인텔리전스를 크게 향상시킬 수 있습니다.
그러나 그 일이 일어나기 전에 많은 일이 앞서 있습니다. 과학자들은 Keller, Schwiedrzik 및 다른 사람들이 수행 한 연구의 종류를 계속하여 뇌의 내부 표현이 어디에 있는지를 결정해야합니다. 그리고 유사한 실험이 더 높은인지 과정에서 예측 코딩에 대한 주장을 입증 할 수 있는지 여부는 여전히 남아 있습니다.
예측 코딩은“진화가 생물학에 따라 신경 과학에 중요하다”고 글래스고 대학교 (University of Glasgow)의 신경 생리 학자 인 Lars Muckli는 이론에 대해 광범위한 작업을 수행했다. 그러나 지금은 Sprevak은“배심원은 여전히 외출 중입니다.”라고 지적했습니다.
