[11주차] 캐시

[ainochi-kor]

"캐시"에 대해서 알아보기로 해요!

[ainochi-kor]

정리

캐시에 다양한 전략들이 있어서 재밌었고, 다른 전략들도 어떻게 만드는지 구현해보면 좋을 것 같다는 생각이 들었네요

[yunseorim1116]

11주차 캐시 제출합니다!
열심히 읽어봤는데 내용이 그렇게 유익한지는.. 모르겠어요 허허
아는만큼 보인다고 하죠?

[sa02045]

익숙한듯 익숙하지않은 캐시.

캐시

• 캐시 전략에 따라 원하는 데이터를 가까운 위치에 저장시켜서 데이터 접근 비용을 줄이자
• 계산 비용이 비싸거나 먼 위치의 데이터는 가까운 지역(local) 저장소에 복사하면 접근 비용이 훨씬 줄어든다.
• 웹 브라우저에서 페이지에 접근할 때마다 매번 새롭게 데이터를 가져온다면 네트워크의 비싼 비용을 지불해야한다.
• 접근속도: CPU > RAM > 디스크 > 네트워크
• 저장가능한 데이터양: CPU < RAM < 디스크 < 네트워크(외부저장소)
• 네트워크 요청으로 데이터를 매번 가져오는 것보다 로컬 저장소(디스크)에 저장하면 빠르게 가져올 수 있다.
• 그렇다면 어떤 데이터를 어떻게 저장하는 것이 효율적일까? 각각의 전략에 따라 트레이드오프가 있다.

LRU 캐시 전략

• 가장 일반적인 전략. 최근에 사용한 데이터를 캐시에 유지하고, 오랫동안 사용하지 않은 데이터를 제거한다
• 해시테이블 + 큐로 구현

MRU 캐시 전략

• 가장 최근에 사용한 데이터를 제거하는 전략. 범용적인 전략은 아니고 특정 전략에서만 사용
• 전자책 예제. 사용자는 읽었던 책을 다시 읽을 가능성이 적다. 따라서 최근에 읽은 책을 캐시에 넣는 것은 비효율적이다.
• 사용자가 읽을 것 같은 책 데이터를 미리 가져와 캐시에 넣자.

LFU 캐시 전략

• 가장 적게 접근된 데이터를 제거. 최근에 사용했더라도 접근 카운트수가 적다면 제거
• 인기 게시글, 인기 뉴스기사 데이터를 캐시에서 다룰 때 사용

[hanana1253]

엇 연수님 실시간이다

[sunhpark42]

궁금22

[ella-yschoi]

어엇 한결님이다 선희님이다

[ddongule]

저두 군굼.

[sa02045]

앗 ㅋㅋ 그냥 바꿨어요. (별다른 이유 진짜 없음)

[sunhpark42]

• 전체적인 내용이 전략에 초점이 맞춰진 것이 흥미로웠다.
• 이런것만 실험하고 살면 재미있으려나 스트레스받으려나 싶은데 난 둘다일듯.
• 왜 지인이 사용자풀이 적지만 실험결과가 확실한 곳을 선호하는지 알 것 같기도.
• 캐시전략 참 어렵다. 책에서 처럼 하위 레이어에서의 캐시전략을 사용하지는 않지만, 브라우저 캐싱을 어떻게 활용해야 적합하고 사용자에게 더 빠른 화면을 제공할 수 있을지는 고민되는 것 같다.
• 도메인과 목표에 따라 전략이 달라야한다는것.읽으면서 자료구조 자체보다 이런것에 더 감흥을 느끼는 것 같다

[hanana1253]

요약

• 캐시: 데이터 접근 비용을 줄이기 위해 일부 데이터를 계산이 이뤄지는 곳에서 더 가까운 위치에 저장하는 자료 구조
• 지역적 캐시: 데이터를 프로세서에 더 가까운 위치(지역적 저장소)에 저장해서 더 빠르게 처리
• 모든 것을 저장할 수 없으므로, 효과적인 전략을 찾아야 함

1. 캐시 소개

• 모든 데이터 저장소가 동등하지 않다.
• CPU 자체 메모리(레지스터, 지역적 캐시) < RAM < 하드 드라이브 < 인터넷의 저장소
• Cache Hit(캐시 적중): 데이터를 캐시에서 찾는 경우 (c.f. Cache miss(캐시 실패): 데이터를 캐시에서 찾을 수 없는 경우)
• 만료된 데이터: 캐시가 가득 차 교체된 데이터 -> 만료 전략 필요 (어떤 데이터를 교체할지 결정, 데이터에 얼마나 자주 접근했는지, 가까운 미래에 다시 사용할지 등)

2. LRU 만료와 캐시

• Least Recently Used(최소 최근 사용): 최근에 필요했던 정보에 다시 접근할 가능성이 높다.
• 웹 브라우저에서 유용(웹사이트 로고), 가장 오래전에 사용한 항목 제거해 공간을 확보
• 유저 상호작용의 영향으로 이점이 더욱 커질 수 있다. (웹사이트의 로고는 해당 사이트의 다음 화면에서도 주로 다시 나타나니까)
• 해시 테이블과 큐를 이용해 LRU 캐시를 만들 수 있다. (필요 작업: 임의의 원소를 찾는 작업, 최근에 사용하지 않은 원소를 찾는 작업)
  • 최근에 사용하지 않은 원소는 FIFO 큐로 제거 (이중 연결 리스트로 구현)
  • 해시 테이블: 키, 값(데이터), 캐시 큐에 이는 해당 항목을 가리키는 포인터로 구성된 복합 자료 구조
    • 캐시 적중: 데이터를 반환하고 데이터에 접근한 최종 시간 갱신하고 해당 데이터를 큐에서 가장 뒤로 이동
    • 캐시 실패: 비싼 조회를 한 후 데이터를 가져와서 캐시에 삽입하고 가장 오래된 데이터 제거

3. 다른 만료 전략들

• LRU: 공통 사용 패턴이 집중적으로 보이며, 캐시된 원소의 분포가 시간이 지남에 따라 변할 것으로 예상될 때.
• MRU(Most Recently Used): 반복 빈도가 낮은 항목에는 좋은 접근 방법 (전자책 리더기에서 한 책을 두 번 연속으로 읽을 가능성은 적다.)
• LFU(Leas Frequently Used): 접근 카운트가 가장 작은 원소를 제거. 캐시된 항목들이 안정적으로 유지되는 경우 유리. (새로운 캐시가 들어오기까지 시간이 걸림)

4. 캐시가 중요한 이유

• 비용이 많이 드는 저장 매체를 다룰 때 접근 비용을 완화
• 여러 다른 매체에 있는 데이터에 접근할 때 고려해야 할 잠재적 트레이드오프 관계를 강조해 보여준다
• 자료 구조 조정 문제를 다시 보여준다.

느낀점

• 모든 데이터 저장소가 동등하지 않고, 용량, 속도, 비용의 트레이드오프가 발생한다는게 너무 당연한데 너무 당연히 잊고있었다.
• 이제 단순 알고리즘을 넘어서 조금 더 고차원적인 고려를 하는 것 같다.
• 전전 챕터에 비해서는 나름 이해하면서 재밌게 읽었다.

[ella-yschoi]

정리

• 다른 챕터에 비해 이미 배경지식이 있고 짧아서 좋았습니다.
• 비유가 많거나 무리수라고 느껴지면 잘 안 읽게 된다는 것을 꺠달았...

[thgr8ganzi]

정리

• 이번챕터는 초심이 있어서 좋았습니다.
• 지금까지 배운 해시테이블, 큐를 이용해서 캐시를 구현할수 있다는걸보고 다른 자료구조도 복합적인 기본 자료 구조를 통해서 만들수 있나 라고 생각했습니다.
• 요즘 의욕이 많이 떨어지네요..
• ＼（〇_ｏ）／

[ddongule]

차

[ddongule]

영

[ddongule]

차

[chloe-codes1]

영

[thgr8ganzi]

차

[chloe-codes1]

책에는 캐시 만료 전략만 나와있어서 캐시 사용 전략에 관한 내용을 기록합니다!

• Cache Aside
  • 동작
    • cache가 있는지 확인
    • cache miss 라면,
      • DB 조회
      • Cache 저장 (application이)
  • 장점
    • 읽기가 많은 워크로드에 적합
    • Redis 를 사용하는 등 캐시를 분리했기 때문에 캐시 오류에 탄력적
  • 단점
    • 동기화 문제 (캐시가 최신 데이터를 가지고 있는가?)
• Read-Through
  • cache aside 와의 차이점 → application이 캐시를 채우지 않음
  • 장점 - 읽기가 많은 워크로드
  • 단점 - 처음 요청하면 무조건 cache miss 발생
    • 해결을 위해 개발자가 직접 쿼리를 실행하여, 첫 request cache miss 나지 않게 함
• Write-Through
  • 동작
    • DB에 데이터를 작성할 대마다 cache에 추가 & 업데이트
  • 장점 - 항상 동기화 되어있음
  • 단점
    • 쓰지 않는 데이터도 캐시에 저장됨 → 리소스 낭비
    • 쓰기 지연시간 증가

보통 만료 전략은 LRU로, 사용 전략은 Cache Aside로 가져가는 것 같아요

• redis: allkeys-lru policy 사용
• spring @Cacheable: 캐시에 데이터가 있으면 캐시에서 가져오고, 없으면 DB에서 조회 후 캐시에 저장 & 다음 요청부터는 캐시에서 반환

[ddongule]

• 짧다. 맘에든다.
• 나는 캐시를 어떻게 사용하고 있는가?에 대한 생각과 고민을 잠깐 했다.(아주 잠깐)
  • 어떤게 잘 사용하는걸까? 상황마다 다르겠지 모든건 케바케 사바사 상황바이상황 오예바리
  • 잘 고민해서 적절한 전략을 잘 택해서 효율적으로 캐시를 잘 활용해보자...는 결론..!
• 주현님 캐시 사용 전략 감사합니다 뭔가 궁금하긴 했는데 안찾아보고있었는데 낄낄 최고애오!!!!!!!!!!!!!!!!!!!

[iborymagic]

• 내용이 짧아서 좋았읍니다.
• 내용이 심도가 있지는 않은 것 같고, 큐와 해시테이블을 결합해서 이런 것도 생각해볼 수 있구나~ 하는 정도로 넘어가면 좋을 것 같슴다.
• 사실 해시 테이블 부분을 조금 대충 읽어서, 기억이 잘 안나네요.. 다시 읽어봐야겠슴다

---

• 캐시: 데이터 접근 비용을 줄이기 위해 일부 데이터를 계산이 이뤄지는 곳 가까이에 저장
• 속도는 CPU 메모리 > RAM > 하드 드라이브 > 네트워크 호출
• 책에서는 해시테이블 + 큐를 사용해서 캐시를 구현
• 최소 최근 사용(LRU): 가장 오래전에 사용한 항목을 캐시에서 제거
• 최대 최근 사용(MRU): 가장 최근에 사용한 항목을 캐시에서 제거(한 항목을 연속 두 번 사용할 가능성이 적다는 가정)
• 최소 빈도 사용(LFU): 접근 카운트가 자장 적은 원소를 캐시에서 제거