[정보통신기술용어해설] |
최적화 알고리즘 | (2024-07-21) |
최적화 문제 풀이 방법 |
1. 최적화 알고리즘 (최적화 문제 풀이 방법) ㅇ 라그랑제 승수법 (Lagrange Multiplier Method) - 제약조건 있는 최적화 문제에서, 제약조건을 목적함수로 옮김으로써, 제역조건 없는 최적화 문제로 변환시킴 ㅇ 내리막 경사법, 경사 하강법 (Gradient Descent Method) - 비용함수를 최소화하기 위해, 반복해서 파라미터를 조정해 나가는 것 . 목적 함수의 기울기를 따라 내려가며 최소값 탐색 ㅇ 일계법, 이계법 - 일계법 (first order method) . 목적 함수의 1차 미분(그레디언트) 정보만을 이용하여 최적화 문제를 해결하는 방법 . 例) 테일러급수, 경사하강법 등 - 이계법 (second order method) . 목적 함수의 2차 미분 정보를 활용하여 최적화 문제를 해결하는 방법 . 例) 뉴턴법, 유사 뉴턴법 등 ㅇ (편집중)