반세기 전, 혼돈 이론의 선구자들은 '나비효과'가 장기 예측을 불가능하게 만든다는 사실을 발견했습니다. 복잡한 시스템(예:날씨, 경제 또는 기타 모든 것)에 대한 가장 작은 동요조차도 극적으로 다른 미래로 이어지는 일련의 사건을 촉발할 수 있습니다. 이러한 시스템의 상태를 정확하게 파악하여 시스템이 어떻게 진행될지 예측할 수 없기 때문에 우리는 불확실성의 장막 속에 살고 있습니다.
하지만 이제 로봇이 도와주러 왔습니다.
Physical Review Letters 저널에 보고된 일련의 결과 그리고 혼돈 , 과학자들은 최근 인공 지능의 성공을 뒷받침하는 것과 동일한 계산 기술인 기계 학습을 사용하여 놀랍도록 먼 지평까지 혼란스러운 시스템의 미래 진화를 예측했습니다. 이 접근 방식은 외부 전문가들로부터 획기적이며 폭넓게 적용될 가능성이 높다는 평가를 받고 있습니다.
독일 브레멘에 있는 야콥스 대학의 계산 과학 교수인 허버트 예거(Herbert Jaeger)는 "시스템의 혼란스러운 진화가 얼마나 먼 미래까지 예측되는지는 정말 놀랍습니다."라고 말했습니다.
이번 연구 결과는 베테랑 혼돈 이론가인 에드워드 오트(Edward Ott)와 메릴랜드 대학의 네 명의 공동 연구자가 진행한 것입니다. 그들은 Kuramoto-Sivashinsky 방정식이라는 전형적인 혼돈 시스템의 역학을 "학습"하기 위해 저장소 컴퓨팅이라는 기계 학습 알고리즘을 사용했습니다. 이 방정식에 대한 진화하는 솔루션은 화염 전면처럼 행동하며 가연성 매체를 통과하면서 깜박입니다. 이 방정식은 또한 플라즈마 및 기타 현상의 표류파를 설명하며 "난류 및 시공간 혼돈을 연구하기 위한 테스트 베드" 역할을 한다고 Ott의 대학원생이자 새 논문의 주요 저자인 Jaideep Pathak이 말했습니다.
Kuramoto-Sivashinsky 방정식의 과거 진화 데이터에 대해 자체적으로 훈련한 후, 연구원의 저장소 컴퓨터는 불꽃 같은 시스템이 어떻게 미래에도 8개의 "Lyapunov 시간"까지 계속해서 진화할 것인지를 면밀히 예측할 수 있었습니다. 이는 느슨하게 말하면 이전 방법이 허용한 것보다 8배 더 앞선 것입니다. 랴푸노프 시간은 혼돈계의 거의 동일한 두 상태가 기하급수적으로 갈라지는 데 걸리는 시간을 나타냅니다. 따라서 이는 일반적으로 예측 가능성의 범위를 설정합니다.
독일 드레스덴에 있는 막스 플랑크 복잡계 물리학 연구소의 카오스 이론가인 홀거 칸츠(Holger Kantz)는 8회 리아푸노프 시간 예측에 대해 “이것은 정말 매우 좋은 결과입니다.”라고 말했습니다. “머신러닝 기술은 말하자면 진실을 아는 것만큼이나 좋습니다.”
알고리즘은 Kuramoto-Sivashinsky 방정식 자체에 대해 아무것도 모릅니다. 방정식에 대한 진화하는 솔루션에 대해 기록된 데이터만 볼 수 있습니다. 이는 기계 학습 접근 방식을 강력하게 만듭니다. 많은 경우, 혼란스러운 시스템을 설명하는 방정식은 알려져 있지 않으며, 이를 모델링하고 예측하려는 역학자들의 노력을 무력화시킵니다. Ott와 회사의 결과에 따르면 방정식은 필요하지 않고 데이터만 필요합니다. “이 논문은 언젠가 우리가 정교한 대기 모델이 아닌 기계 학습 알고리즘을 통해 날씨를 예측할 수 있을 것이라고 제안합니다.”라고 Kantz는 말했습니다.
전문가들은 일기 예보 외에도 기계 학습 기술이 임박한 심장 마비의 징후를 찾기 위해 심장 부정맥을 모니터링하고 신경 스파이크의 징후를 찾기 위해 뇌의 신경 세포 발화 패턴을 모니터링하는 데 도움이 될 수 있다고 말합니다. 보다 추측적으로는 선박과 심지어 지진까지 위험에 빠뜨리는 악성 파도를 예측하는 데 도움이 될 수도 있습니다.
Ott는 특히 새로운 도구가 1859년에 태양 표면 35,000마일에 걸쳐 분출된 것과 같은 태양 폭풍에 대한 사전 경고를 제공하는 데 유용할 것으로 기대합니다. 그 자기 폭발은 지구 전체에서 볼 수 있는 오로라 보레알리스를 생성하고 일부 전신 시스템을 날려버리는 동시에 다른 라인이 전원을 끈 상태에서 작동할 수 있을 만큼 충분한 전압을 생성했습니다. 만약 오늘날 그러한 태양폭풍이 예기치 않게 지구를 강타한다면, 전문가들은 지구의 전자 기반 시설이 심각하게 손상될 것이라고 말합니다. “폭풍우가 오고 있다는 것을 알았다면 전원을 껐다가 나중에 다시 켜면 됩니다.”라고 Ott는 말했습니다.
그와 Pathak, 그리고 동료인 Brian Hunt, Michelle Girvan 및 Zhixin Lu(현재 펜실베니아 대학교에 재직 중)는 기존 도구를 통합하여 결과를 얻었습니다. 6~7년 전, '딥 러닝'으로 알려진 강력한 알고리즘이 이미지 및 음성 인식과 같은 AI 작업을 마스터하기 시작했을 때 그들은 기계 학습을 읽고 이를 혼란에 적용할 영리한 방법을 생각하기 시작했습니다. 그들은 딥러닝 혁명 이전에 몇 가지 유망한 결과에 대해 배웠습니다. 가장 중요한 것은 2000년대 초 Jaeger와 동료 독일 카오스 이론가 Harald Haas가 무작위로 연결된 인공 뉴런 네트워크(저장소 컴퓨팅에서 "저장소"를 형성함)를 사용하여 카오스적으로 공진화하는 세 가지 변수의 역학을 학습했다는 것입니다. 세 가지 일련의 숫자에 대한 훈련을 마친 후 네트워크는 매우 먼 지평선까지 세 변수의 미래 값을 예측할 수 있습니다. 그러나 상호 작용하는 변수가 몇 개 이상 있으면 계산이 불가능할 정도로 어려워졌습니다. Ott와 그의 동료들은 상호 관련된 변수가 엄청나게 많은 대규모 혼돈 시스템에 저수지 컴퓨팅을 적용하기 위해 보다 효율적인 체계가 필요했습니다. 예를 들어, 진행되는 화염의 전면을 따라 있는 모든 위치에는 추적할 수 있는 세 가지 공간 방향의 속도 구성 요소가 있습니다.
간단한 해결책을 찾는 데 수년이 걸렸습니다. Pathak은 "우리가 활용한 것은 공간적으로 확장된 혼돈 시스템에서 상호 작용의 지역성"이라고 말했습니다. 지역성은 한 장소의 변수가 가까운 장소의 변수에 영향을 받지만 멀리 있는 장소의 영향을 받지 않는다는 것을 의미합니다. Pathak은 "이를 사용하면 본질적으로 문제를 여러 덩어리로 나눌 수 있습니다"라고 설명했습니다. 즉, 하나의 뉴런 저장소를 사용하여 시스템의 한 패치에 대해 학습하고, 또 다른 저장소를 사용하여 다음 패치에 대해 학습하는 식으로 문제를 병렬화할 수 있으며, 상호 작용을 설명하기 위해 이웃 도메인을 약간 겹칠 수 있습니다.
병렬화를 사용하면 저장소 컴퓨팅 접근 방식을 통해 적절한 컴퓨터 리소스가 작업에 전념하는 한 거의 모든 규모의 혼란스러운 시스템을 처리할 수 있습니다.
Ott는 저장소 컴퓨팅을 3단계 절차로 설명했습니다. 화재가 확산되는 과정을 예측하기 위해 이를 사용하고 싶다고 가정해 보겠습니다. 먼저, 화염 전면을 따라 5개의 서로 다른 지점에서 화염 높이를 측정하고, 깜박이는 화염이 일정 시간 동안 진행됨에 따라 전면의 이 지점에서 높이를 계속 측정합니다. 이러한 데이터 스트림을 저장소에서 무작위로 선택된 인공 뉴런에 공급합니다. 입력 데이터는 뉴런의 발화를 유발하고 연결된 뉴런을 차례로 유발하며 네트워크 전체에 일련의 신호를 보냅니다.
두 번째 단계는 신경망이 입력 데이터로부터 진화하는 화염 전선의 역학을 학습하도록 만드는 것입니다. 이를 위해 데이터를 입력하면서 저수지에서 무작위로 선택된 여러 뉴런의 신호 강도도 모니터링합니다. 다섯 가지 다른 방식으로 이러한 신호에 가중치를 부여하고 결합하면 다섯 개의 숫자가 출력됩니다. 목표는 해당 출력이 다음 입력 세트(잠시 후에 불꽃 전면을 따라 측정된 5개의 새로운 높이)와 일관되게 일치할 때까지 출력을 계산하는 데 사용되는 다양한 신호의 가중치를 조정하는 것입니다. “당신이 원하는 것은 출력이 약간 나중에 입력이 되어야 한다는 것입니다.”라고 Ott는 설명했습니다.
올바른 가중치를 학습하기 위해 알고리즘은 단순히 각 출력 세트 또는 5개 지점 각각의 예측 화염 높이를 다음 입력 세트 또는 실제 화염 높이와 비교하여 조합이 5개 출력에 대한 올바른 값을 제공하는 방식에 관계없이 매번 다양한 신호의 가중치를 늘리거나 줄입니다. 한 시간 단계에서 다음 단계로 가중치가 조정됨에 따라 예측이 점차 향상되어 알고리즘이 한 시간 단계 이후에 화염 상태를 일관되게 예측할 수 있게 됩니다.
Ott는 "세 번째 단계에서는 실제로 예측을 수행합니다."라고 말했습니다. 시스템의 역학을 학습한 저장소는 시스템이 어떻게 진화할지 밝힐 수 있습니다. 네트워크는 본질적으로 무슨 일이 일어날지 스스로에게 묻습니다. 출력은 새로운 입력으로 피드백되고, 그 출력은 입력으로 다시 피드백되어 화염 전면의 5개 위치에서 높이가 어떻게 변화할지 예측합니다. 동시에 작동하는 다른 저수지는 화염의 다른 곳에서 높이의 변화를 예측합니다.
PRL의 플롯에서 1월에 발표된 논문에서 연구자들은 Kuramoto-Sivashinsky 방정식에 대해 예측한 불꽃 같은 해가 혼돈이 최종적으로 승리하기 전까지 8번의 Lyapunov 배까지 실제 해와 정확히 일치하고 시스템의 실제 상태와 예측 상태가 갈라진다는 것을 보여주었습니다.
혼란스러운 시스템을 예측하는 일반적인 접근 방식은 한 순간의 시스템 상태를 최대한 정확하게 측정하고, 이러한 데이터를 사용하여 물리적 모델을 보정한 다음 모델을 발전시키는 것입니다. 대략적인 추정으로는 일반적인 시스템의 초기 조건을 100,000,000배 더 정확하게 측정해야 향후 진화를 8배 더 예측할 수 있습니다.
그렇기 때문에 기계 학습은 "매우 유용하고 강력한 접근 방식"이라고 독일 괴팅겐에 있는 Max Planck 역학 및 자기 조직 연구소의 Ulrich Parlitz가 말했습니다. 그는 Jaeger와 마찬가지로 2000년대 초반에 저차원 혼돈 시스템에도 기계 학습을 적용했습니다. “제 생각에는 그들이 제시한 예시에서만 효과가 있는 것이 아니라 어떤 의미에서는 보편적이고 많은 프로세스와 시스템에 적용될 수 있다고 생각합니다.” Chaos에 곧 출판될 논문에서 , Parlitz와 공동 작업자는 저장소 컴퓨팅을 적용하여 심장 조직과 같은 "흥분성 매체"의 역학을 예측했습니다. Parlitz는 딥 러닝이 저장소 컴퓨팅보다 더 복잡하고 계산 집약적이지만 다른 기계 학습 알고리즘과 마찬가지로 혼돈을 해결하는 데에도 잘 작동할 것이라고 의심합니다. 최근 매사추세츠공과대학(Massachusetts Institute of Technology)과 ETH 취리히(ETH Zurich) 연구진은 임시 정보를 장기간 저장할 수 있는 반복 루프가 있는 '장단기 기억' 신경망을 사용해 메릴랜드 팀과 비슷한 결과를 얻었습니다.
PRL 작업 이후 논문, Ott, Pathak, Girvan, Lu 및 기타 협력자들은 예측 기술의 실제 구현에 더 가까워졌습니다. Chaos에 게재된 새로운 연구에서 , 그들은 데이터 기반, 기계 학습 접근 방식과 전통적인 모델 기반 예측을 혼합함으로써 Kuramoto-Sivashinsky 방정식과 같은 혼돈 시스템의 향상된 예측이 가능하다는 것을 보여주었습니다. Ott는 이것이 날씨 예측 및 유사한 노력을 개선하기 위한 더 가능성 있는 방법이라고 보고 있습니다. 왜냐하면 우리가 항상 완전한 고해상도 데이터나 완벽한 물리적 모델을 갖고 있는 것은 아니기 때문입니다. "우리가 해야 할 일은 우리가 가지고 있는 좋은 지식을 활용하는 것입니다. 그리고 무지가 있다면 머신러닝을 사용하여 무지가 존재하는 공백을 메워야 합니다." 저수지의 예측은 본질적으로 모델을 보정할 수 있습니다. Kuramoto-Sivashinsky 방정식의 경우 정확한 예측은 12 Lyapunov 배까지 확장됩니다.
Lyapunov 시간의 지속 시간은 밀리초에서 수백만 년까지 시스템마다 다릅니다. (날씨의 경우 며칠입니다.) 기간이 짧을수록 시스템은 더 예민해지거나 나비 효과에 더 취약해지며 유사한 상태가 서로 다른 미래를 위해 더 빠르게 출발합니다. 혼란스러운 시스템은 자연의 모든 곳에 존재하며 다소 빠르게 혼란에 빠지고 있습니다. 그러나 이상하게도 혼돈 자체는 파악하기가 어렵습니다. 시카고 대학의 수학과 교수인 에이미 윌킨슨(Amie Wilkinson)은 "이것은 동적 시스템에 종사하는 대부분의 사람들이 사용하는 용어이지만 사용하는 동안 코를 막고 있는 것 같습니다."라고 말했습니다. 그녀는 “뭔가 혼란스럽다고 말하면 좀 오글거리는 느낌이 든다”고 말했다. 왜냐하면 그것은 합의된 수학적 정의나 필요충분조건도 없이 사람들의 관심을 끌기 때문이다. Kantz는 “쉬운 개념은 없습니다.”라고 동의했습니다. 어떤 경우에는 시스템의 단일 매개변수를 조정하면 시스템이 혼란스러운 상태에서 안정적인 상태로 또는 그 반대로 바뀔 수 있습니다.
Wilkinson과 Kantz는 둘 다 퍼프 페이스트리를 만들 때 반죽을 반복적으로 늘리고 접는 것과 마찬가지로 늘리고 접는 측면에서 혼돈을 정의합니다. 반죽의 각 조각은 밀대 아래에서 수평으로 늘어나 두 공간 방향에서 기하급수적으로 빠르게 분리됩니다. 그런 다음 반죽을 접고 편평하게 펴서 근처 패치를 수직 방향으로 압축합니다. 날씨, 산불, 폭풍우가 치는 태양 표면 및 기타 모든 혼란스러운 시스템이 바로 이런 식으로 작용한다고 Kantz는 말했습니다. "이러한 궤적의 기하급수적 발산을 위해서는 스트레칭이 필요하고, 무한대로 도망치지 않으려면 약간의 접기가 필요합니다." 여기서 접기는 시스템 내 변수 간의 비선형 관계에서 발생합니다.
다양한 차원의 늘임과 압축은 각각 시스템의 양수 및 음수 "Lyapunov 지수"에 해당합니다. Chaos에 실린 또 다른 최근 논문에서 , 메릴랜드 팀은 저수지 컴퓨터가 시스템 진화에 대한 데이터에서 이러한 특성화 지수의 값을 성공적으로 학습할 수 있다고 보고했습니다. 저수지 컴퓨팅이 혼란스러운 시스템의 역학을 잘 학습하는 정확한 이유는 공식이 시스템의 역학을 복제할 때까지 컴퓨터가 데이터에 응답하여 자체 공식을 조정한다는 아이디어 외에는 아직 잘 이해되지 않았습니다. 실제로 이 기술은 매우 효과적이어서 Ott와 다른 메릴랜드 연구원 중 일부는 이제 신경망의 내부 기계를 더 잘 이해하는 방법으로 혼돈 이론을 사용할 계획입니다.
이 기사는 Wired.com의 Investigacionyciencia.es에서 스페인어로 재인쇄되었습니다.
