Learning from Do’s and Don’ts
•
해야되는 것과 하지 말야아 하는 것을 모두 사용하면, 더 높은 성능을 얻을 수 있음
◦
여기서 높은 성능은 (socially acceptable, ethical)
◦
이는 boundary 에 대한 정보를 더 잘 얻을 수 있기 때문임
Regression
•
각 training data 는 regressor 가 해당 point 와 가까워지도록 하는 attractive force 역할을 함.
Regression with Positive and Negative Examples
•
negative data 는 repulsion force 의 역할을 함.
Leveraged Kernel Function
•
gaussian process 는 kerlen function 에 의해 특정됨
•
negative sample 을 위한 negative kernel function 을 정의할 수 있음.
•
Leveraged Kernel Function: PSD
•
leveraged kernel function 의 positive semi-definiteness 는 Bochner’s theorem 에 의해 증명할 수 있음.
Leveraged Gaussian Process Regression (LGPR)
Leveraged Inverse Reinforcement Learning
Leverage Optimization
•
각 데이터셋에 leverage value 를 부여하여
•
다른 skill level 을 가진 여러 데이터를 가지고 있기 떄문에 중요함.
Leverage Optimization
•
전체 데이터셋에 대해서 couple parameters 만 존재하는 세팅
•
majority 의 leverage paramters 가 +1 이면 sparse constraint 를 사용할 수 있음.
Leverage Optimization: PLM
•
디테일한 과정보다는 L1 norm 에 대해서 sparsity regularization 을 사용하는 것이 중요
Leverage Optimiztaion: DVM
Experiments
•
Leverage Optimization 을 통해 다른 종류의 leverage parameter 를 얻을 수 있음.
•
이는 각 sample 에 대한 clsutering 도 진행할 수 있음을 보여줌.
Leveraged Deep Neural Network
•
알려진 모델은 Complexity 가 낮아서 복잡한 데이터의 양상을 모델링하기 어려움. → DNN!