나의 이야기들
-
유용한 한 문장
[LaTeX] highlight error - ! Argument of \UTFviii@three@octets@combine has an extra }.\par ...tion and estimation for state estimation} 에러 해결 방법
안녕하세요. 레이텍을 사용하며, 특정 문구에 형광펜 효과를 주기 위해 \usepackage{soul} 즉, soul 패키지를 사용하시게 될겁니다. 이때 말도 안되는 에러가 발생하는 경우가 있는데, 제 경우는 문장 내에 특수 문자가 존재하여 에러가 발생했습니다. 위 에러를 해결하기 위해서는 1) 하이라이트를 주고 싶은 문장에서 특수 문자를 제거하거나, 2) $$ 을 통해 수식 표현으로 변경해주어야 정상적으로 컴파일이 이루어집니다.
-
유용한 한 문장
[tensorflow/keras] fit() vs. fit_generator()
안녕하세요. 논문 revision 중에 정신이 나갈 것 같아 리프레시할겸 소소한 업로드 하나 하겠습니다. tensorflow.keras를 사용한 모델 학습 시에 fit()을 사용하는 경우와 fit_generator()를 사용하는 경우를 보셨을 텐데요, fit()은 input으로써 x와 y를 동시에 사용하는 기법입니다. 당연히 한번에 들어가는 input이 크기 때문에 많은 메모리를 사용하게 됩니다. fig_generator()는 파이썬 내 generator를 사용한 것입니다. 대용량의 데이터를 효율적으로 학습할 수 있는 특징이 있는데, generator를 통해 형성된 데이터를 batch-by-batch로 학습하는 기법입니다. 메모리를 parallel하게 사용하는 데에 효과적입니다. 그럼 또 뵈어요 ^__^.
-
내가 보려고 하는 논문 리뷰
[Paper Review] A Unified Approach to Interpreting Model Predictions
. 안녕하세요. 에이치비킴 입니다. 논문명: A Unified Approach to Interpreting Model Predictions (Lundberg, Scott M., and Su-In Lee) 인공지능에서, 제작한 모델이 예측한 결과를 이해하는 것은 굉장히 중요하다 (특정 accuracy가 발생한 이유와 같이). 하지만, 복잡한 모델을 사용하여 (앙상블 및 딥러닝 모델들) large modern dataset에서 높은 정확도를 보이는 경우에는 정확도와 해석가능성 사이에 tension이 발생한다. 이러한 문제를 해결하기 위해, 본 논문에서는 SHAP (SHapley Additive exPlanations)을 제안한다. SHAP의 특성은 다음과 같다. 1. SHAP은 각각의 특성에 부분적 예측을 ..
사람들이 많이 찾는 이야기들
-
ML & DL 이야기
L1 norm, L2 norm 란?
. 안녕하세요 에이치비킴 입니다. 우리나라에서는 norm이 '노름'으로 발음되는 것 같습니다. Norm의 수학적 정의는 복잡하지만, 딥러닝에서의 Lp norm(특히, L1 norm 및 L2 norm)은 딥러닝 모델이 학습될 때 과적합을 방지하기 위해 사용된다고 정의할 수 있습니다. p>=1 일 때, Lp norm은 다음과 같이 정의됩니다. 위 정의를 기반으로 해서 L1 norm과 L2 norm을 알아보겠습니다. L1 norm : L1 norm은 다음과 같이 정의됩니다. p, q라는 벡터가 있을 때, 두 벡터 차의 절댓값의 합입니다. L1 norm에 의해 도출되는 거리를 L1 distance 또는 Manhattan distance로 표현할 수 있습니다. 여담으로, L1 distance는 Rectangula..
-
유용한 한 문장
[LaTeX] 큰따옴표, 작은따옴표 올바르게 작성하는법
LaTeX을 사용하여 논문을 작성하던 도중, 따옴표 관련된 작성법이 독특하여 여러분과 공유하면 좋을 것 같아 포스팅합니다. 여는 작은따옴표 작성하는법 : ` (ex. `안녕하세요.) 닫는 작은따옴표 작성하는법 : ' (ex. 안녕하세요.') 여는 큰따옴표 작성하는법 : `` (ex. ``안녕하세요.) 닫는 큰따옴표 작성하는법 : '' (ex. 안녕하세요.'') 이를 활용해서 문장을 작성한 예시는 다음과 같습니다. 작은따옴표 활용 : `안녕하세요.' 큰따옴표 활용 : ``안녕하세요.''
-
내가 보려고 하는 논문 리뷰
[Paper Review] Federated Learning for Internet of Things: A comprehensive Survey
. 안녕하세요. 에이치비킴 입니다. 본 포스팅을 살펴보기에 앞서, 연합학습의 개념에 대해 알고 계시면 큰 도움이 될 것 같습니다. 연합학습이란? 연합학습(Federated Learning) 이란? . 안녕하세요, 에이치비킴 입니다. 연합학습에 대해서 본격적으로 살펴보기 전에, 연합학습이 최근 각광받고 있는 이유가 무엇인지 알아보아야겠죠. 연합학습은, 기존의 머신러닝 기법들과는 hyungbinklm.tistory.com 이번 논문 리뷰는 논문이 작성된 포맷에 맞춰 순서대로 살펴 볼 예정입니다. 논문명: Federated Learning for Internet of Things: A comprehensive Survey (Dinh C. Nguyen, Pubudu N. Pathirana, and Jun Li)..
-
유용한 한 문장
[LaTeX] highlight error - ! Argument of \UTFviii@three@octets@combine has an extra }.\par ...tion and estimation for state estimation} 에러 해결 방법
안녕하세요. 레이텍을 사용하며, 특정 문구에 형광펜 효과를 주기 위해 \usepackage{soul} 즉, soul 패키지를 사용하시게 될겁니다. 이때 말도 안되는 에러가 발생하는 경우가 있는데, 제 경우는 문장 내에 특수 문자가 존재하여 에러가 발생했습니다. 위 에러를 해결하기 위해서는 1) 하이라이트를 주고 싶은 문장에서 특수 문자를 제거하거나, 2) $$ 을 통해 수식 표현으로 변경해주어야 정상적으로 컴파일이 이루어집니다.
-
유용한 한 문장
스칼라 양자화 (Scalar Quantization) 란?
스칼라 양자화 (Scalar Quantization) : 아날로그 신호를 샘플링한 표본을 하나의 대표값으로 양자화하는 방법 스칼라 양자화의 구분 : 균일 양자화(선형 양자화) 및 비균일 양자화(비선형 양자화) 다른 개념으로 벡터 양자화 (Vector Quantization)이 있음 벡터 양자화 (Vector Quantization) : 일련의 표본들을 특성화시켜 나온 여러 대표값(n-tuple)들을 함께 양자화시키는 방법