알고리즘/기타 알고리즘

Dynamic Programming 동적 프로그래밍

AI 그게 뭔데 2022. 1. 24. 21:28

Dynamic Programming (동적 계획법) 이란?

  •  큰 문제를 작은 문제로 나누어 푸는 문제
  •  같은 문제라면 한 번씩만 풀어서 문제를 효율적으로 해결하는 알고리즘 기법

✔ 다이나믹 프로그래밍 사용 조건

1. 최적 부분 구조 (Optimal Substructure)

 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있다

 

2. 중복되는 부분 문제 (Overlapping Subproblem)

동일한 작은 문제를 반복적으로 해결해야 한다

 

 

📌 메모이제이션 (Memoization)

  • 메모이제이션은 다이나믹 프로그래밍을 구현하는 방법 중 하나입니다
  • 한 번 계산한 결과를 메모리 공간에 메모하는 기법입니다
    • 같은 정보를 다시 호출하면 메모했던 결과를 그대로 가져옵니다
    • 값을 기억해둔다는 점에서 캐싱(caching)라고 합니다

'한 번 계산한 결과를 메모리 공간에 기록했다가 필요할 때 가져오자'

 

'다이나믹 프로그래밍을 재귀적으로 수행하다가 같은 정보가 필요할 때는 이미 구한 정답을 그대로 리스트에서 가져오자'는 아이디어

 

 

예시 : 피보나치 수열

  •  Top-Down 방식
# Memoization, 리스트 초기화
d = [0] * 100 

# Fibonacci Function을 재귀함수로 구현 
def fibo(x): 
    # 종료조건: x가 1 또는 2라면 1을 반환 
    if x == 1 or x == 2: 
        return 1 
    # 이미 한 번 계산한 적이 있었다면 값을 반환
    if d[x] != 0: 
        return d[x] 
    else: 
        d[x] = fibo(x-1) + fibo(x-2) 
    return d[x]

 

⭐ 포인트

  1.  한 번 계산된 결과를 메모이제이션(caching)하기 위한 리스트 초기화
  2.  피보나치 함수를 재귀함수로 구현
    - 단순히 매번 계산하도록 문제를 풀기 보다는 한 번 구현한 정보를 리스트에 저장하는 것이다(caching)

* 다이나믹 프로그래밍을 재귀적으로 수행하다가 같은 정보가 필요할 때는 이미 구한 정답을 리스트로 부터 가져오면 된다

 

 

Top-Down vs Bottom-Up

✔ 탑다운(Top-Down)방식

  • 큰 문제를 해결하기 위해 작은 문제를 호출하는 방식 (하향식)
  • 재귀함수로 구현하는 경우의 대부분

 

✔ 보텀업(Bottom-Up)방식

  • 작은 문제부터 차근차근 답을 도출하는 방식 (상향식)

 

◼ 다이나믹 프로그래밍의 전형적인 형태는 보텀업 방식이다

      ◻ 결과 저장용 리스트는 DP 테이블이라고 부른다

 

◼ 메모이제이션은 이전에 계산된 결과를 일시적으로 기록해 놓은 넓은 개념을 의미

 

 

피보나치 수열  -  Bottom-Up 방식

# 앞서 계산된 결과를 저장하기 위한 DP 테이블 초기화
d = [0] * 100

# 첫 번째 피보나치 수와 두 번째 피보나치 수는 1
d[1] = 1
d[2] = 1
n = 99

# 피보나치 함수(Fibonacci Function) 반복문으로 구현(보텀업 다이나믹 프로그래밍)
for i in range(3, n + 1):
    d[i] = d[i - 1] + d[i - 2]

print(d[n])

 

✔ Top-Down 방식과 Bottom-Up방식 중 무엇이 더 좋을까?

Top-Down 의 경우 코드의 가독성이 좋지만 작성하기 어렵다.

Bottom-Up 의 경우 풀기는 쉽지만 가독성이 약간 저하되는 경우가 있다.

 

 

 

📌 다이나믹 프로그래밍 VS 분할 정복

  • 다이나믹 프로그래밍과 분할 정복은 모두 최적 부분 구조를 가질 때 사용할 수 있다
    • 큰 문제를 작은 문제로 나눌 수 있으며 작은 문제의 답을 모아서 큰 문제를 해결할 수 있는 상황
  • 다이나믹 프로그래밍과 분할 정복의 차이점은 부분 문제의 중복이다
    •  다이나믹 프로그래밍 문제에서는 각 부분 문제들이 서로 영향을 미치며 부분 문제가 중복된다
    • 분할 정복 문제에서는 동일한 부분 문제가 반복적으로 계산되지 않는다
  • 분할 정복의 대표적인 예시인 퀵 정렬을 살펴보자
    • 한 번 기준 원소(Pivot)가 자리를 변경해서 자리를 잡으면 그 기준 원소의 위치는 바뀌지 않는다
    • 분할 이후에 해당 피벗을 다시 처리하는 부분 문제는 호출하지 않는다

 

 

📌 다이나믹 프로그래밍 문제에 접근하는 방법

 

  • 주어진 문제가 다이나믹 프로그래밍 유형임을 파악하는 것이 중요하다
  • 가장 먼저 그리디, 구현, 완전 탐색 등의 아이디어로 문제를 해결할 수 있는지 검토할 수 있다
    • 다른 알고리즘으로 풀이 방법이 떠오르지 않으면 다이나믹 프로그래밍을 고려해 보자
  • 일단 재귀 함수로 비효율적인 완전 탐색 프로그램을 작성한 뒤에 (탑다운) 작은 문제에서 구한 답이 큰 문제에서 그대로 사용될 수 있으면, 코드를 개선하는 방법을 사용할 수 있다
  • 일반적인 코딩 테스트 수준에서는 기본 유형의 다이나믹 프로그래밍 문제가 출제되는 경우가 많다