Datasets:

mp1704

/

w2v2_0

like 0

./data/fd99a64a-0e41-44fa-93bc-302e973c9d06.wav

ấy sau khi mà thử nghiệm ý tưởng mới vậy

./data/3a52b46a-cdb6-4f01-badf-35856091b728.wav

tuấn anh này khi biết chủ đề sau pretrain model thì em vẫn chưa hiểu là nó giúp ích cho việc dự đoán giúp ích chứ em

./data/f748cca5-5b4a-4726-8b1d-afc9a6272e47.wav

đúng không nhưng các bạn có thể thử theo kiểu của mình có nghĩa mình sẽ start hai lần mỗi lần một cái epoch

./data/86aedd73-947d-46c1-933a-594da86438bd.wav

thay vì các bạn lựa chọn kiểu như thế này

./data/2bdce3ec-91ef-479e-98dd-f7ef1d7b9bd6.wav

ấy để xem là cái kết quả có tốt hay không thì các bạn thấy ngay a ở đây các bạn nhìn thấy nó đã tốt hơn so với cái mô hình kia rồi

./data/77137526-b6dc-495c-8700-84609ca774f4.wav

ở trong này cả ba câu đều có từ đạo hàm mà ấy thì mình trả câu nào về

./data/92aa10e7-38a0-4542-9940-a39add06be8f.wav

đấy ví dụ trong năm ngàn step đầu tiên người ta sẽ đẩy cái learning rate lên cao để nó vượt qua được những cái gồ ghề

./data/fb17e2e1-e30a-4fe6-863a-fdf504087a22.wav

ok không mọi người

./data/625908c0-e418-40bb-8acb-42c795273d25.wav

ấy thì đây người ta gọi là small model đúng không và người ta tiếp tục train

./data/6e8d6680-c0d1-446b-9ef9-d7fc823fd6cf.wav

và chỗ này có cái phẩy này ấy tức là đây là một cái ví dụ đây là một cái tham số lớp đầu tiên chẳng hạn ví dụ như thế

./data/d2438259-513a-48dd-956a-01467111d135.wav

mà khi cho cái ảnh chẳng hạn hoặc cho cái âm thanh thì cái nhãn là gì

./data/5a60835c-227d-4882-949e-3fc698e845f5.wav

đấy

./data/8efe3e9d-2db3-4e7f-9dc9-ed8a06aea3cb.wav

đấy rồi các bạn có những cái như kiểu là đạo hàm là

./data/d66ad370-2425-4c35-9db8-a2a7b7008114.wav

ấy thì đây à phase đầu tiên mà mình sẽ build một cái tool để cho giáo viên rồi học viên tham gia vào dậy và và

./data/2f84597c-2566-4f40-a4d9-2023342b7d94.wav

mọi người ok thả like nha mọi người còn bản thân của mình ý thì mình hay dùng à tên thôi

./data/95c351a7-e165-4d15-bcd7-a82e90ac2d57.wav

tại vì à có một cái bài tập a đang đợi mọi người chính là bài toán thuật toán lan truyền ngược rất chi là dài

./data/afebb48c-d4e5-44a0-ad6c-ab585bb606e8.wav

ấy trong thực tế khi mà training ý đôi khi mình hay train kiểu như thế này này thay vì mình train hai epoch

./data/a7533bd8-3e45-41b1-9bea-cbdc9af21dea.wav

đấy for xong epoch một thôi

./data/bea9e49d-3d80-4505-82fe-538bc12fad33.wav

xong mình à cho thêm cái câu hỏi vào đằng sau ấy xong mình ra cái câu trả lời này ấy kiểu như vậy

./data/852e2725-e3ff-490b-8e21-19d1ddf7f02e.wav

chắc chắn là sẽ có l một l hai rồi l một l hai các bạn đã học rồi

./data/d859c144-397d-46c8-8072-fc4b18d59a4e.wav

người đúng người sai cho nên là mô hình này không thể dùng được trong thực tế

./data/2d168710-e954-4a8f-87f8-aba826f7400d.wav

thấy mình chưa được thỏa mãn chẳng hạn thì các bạn có thể feedback để mình sẽ fix ngay

./data/19730891-64d4-4063-9c32-bc7213588f87.wav

đây các bạn thấy không lên được đến bẩy mươi phần trăm rồi này

./data/547b5db7-b165-48ca-bcc2-21be68e5b866.wav

đây các bạn thấy cái last này cái a overfit của nó lớn chưa

./data/0b7a078e-b649-4f23-8f29-ae8c6b082711.wav

ấy nó không giống như kiểu relu đơn thuần

./data/5ada158e-9966-4d13-803a-1cbc0a41b061.wav

và các bạn tính ra được cái gradient được không ạ

./data/a2894f9a-871d-4d44-af98-76a6aa503151.wav

đấy rồi computer vision này ấy đưa một cái ảnh vào xong học được những cái feature

./data/0f6189c1-a788-4ca4-9ce7-648b3a74a19d.wav

không chỉ là mask như này mà có thể làm nhiều thứ khác nhau để build được cái pretrain nữa

./data/500418fa-dfaf-47e4-9478-dbf1bfed3536.wav

đấy có nghĩa các bạn tưởng tượng nó là một cái ma trận

./data/cda8f1b6-0e09-435d-b76a-6c5bcdbe8f89.wav

đấy ví dụ cho một số cái đặc điểm của ví dụ cánh chẳng hạn kiểu như vậy

./data/9c372704-0a8c-45cc-a33d-b5e0fb6f5b69.wav

đấy ví dụ làm search engine nhá làm search engine thì có cái pretrain kiểu như này

./data/336f3b04-f437-4ab5-ab3d-9fda1016b071.wav

ấy cho nên nếu mà ai muốn tham gia bất kì một khóa học nào bọn mình sẽ open đấy

./data/65636bcd-c86a-45fe-a145-7416cc917660.wav

thì trong rất nhiều những cái bài toán đều có thể sử dụng lại được cái mối quan hệ đấy ấy

./data/ff85aaa5-9b1d-48d7-b75a-c84c9019febd.wav

hai ứng dụng mà bọn mình đang phát triển ở trong cái hệ thống này thì mọi người có thể vào cái hệ thống ờ proton x chấm io nha mọi người

./data/2e022262-abca-407d-92ad-f37fb89b1308.wav

ấy thì cái việc làm ai ấy nó phải hình thành từ rất nhiều những cái thử nghiệm nhỏ

./data/a4a5f8bf-5cf6-4117-8f2c-31fa65837eb2.wav

ấy nhưng mà có một cái xu hướng gần đây ấy người ta sẽ không làm trực tiếp mà người ta sẽ build một cái pretrain

./data/ea804ab8-2857-4f46-8502-4efb0b822d2d.wav

ấy thì một cái kĩ thuật đầu tiên khi mà các bạn training cái mạng nơ ron này người ta gọi là dropout

./data/44046de2-efd1-4dfb-8858-7d3d8a826a85.wav

ấy thì à thứ bảy này bọn mình sẽ release cái này cho tất cả mọi người có thể tham gia

./data/639c40b7-efb8-40af-b8fb-6a1996980c26.wav

đây em thấy này cái op này bây giờ của em em dùng như một cái hàm luôn ấy

./data/56d11042-0193-47bf-a1c2-d3a4e3f94d7a.wav

sau khi có cái mô hình đó người ta mới bắt đầu gọi là fine tool

./data/58ce9a0a-d8ec-42f4-b614-6bee1b9edab0.wav

cách tiếp cận thứ hai là mình hay dùng đó là dùng một cái small model

./data/ddb756a6-4ac2-49d2-8821-badd7e84f2ea.wav

lặp qua các batch thì đây chính là một cái step mỗi một cái lần lặp này một cái step

./data/d3ff35ed-a4f6-4e6c-a8d0-ec78b055e7fe.wav

và các bạn chú ý ấy khi mà các bạn lấy a random ra ấy các bạn phải lấy đủ lớn

./data/d56da603-2a2f-4b43-b147-5c6793bbef3c.wav

tuy nhiên cái điều này ý nó chỉ xảy ra khi có mối quan hệ thống kê thôi ấy các bạn không thể là

./data/a37be0a5-5435-4d69-958a-dfca4d91246a.wav

thay vì như vậy các bạn sử dụng model nhỏ

./data/18478541-a854-4750-b47f-c23f10dc03af.wav

internal covariate shift như này về sau mit họ có bài báo phản pháo cái bài này sau này mình sẽ kể cho mọi người

./data/e5fa95ee-a13e-4f2a-b482-dc26a52fdb00.wav

ấy nhưng nếu mà ai mà gọi là làm nhiều quá chẳng hạn mình muốn quản trị được thì các bạn phải dùng những cái tool

./data/d3b6ec77-4f84-4bbc-81de-f9959322ae01.wav

ấy các bạn thấy không ở đây tôi định nghĩa cái việc tính toán cái cross entropy

./data/69fe68db-5c77-4d38-9c5c-b3dcd8b6d788.wav

ấy đến một cái thời điểm ấy khi các bạn train quá nhiều mô hình ý các bạn sẽ không thể nhớ được là mô hình này mình dùng tham số gì

./data/0c27f193-6d7c-41e0-ae5a-0bbb0503a32c.wav

mọi người train được like nha mọi người

./data/123d8b30-96f1-46a7-aaf9-926bf825e016.wav

gọi là chưa ai nghĩ mà ra bao giờ rất khó để các bạn làm một thứ mà chưa ai nghĩ ra bao giờ

./data/f6d0caa1-36f7-4264-b835-4551706c3a7c.wav

ấy thì nó có train cả ba cái mô hình này xem là cái mô hình nào hiệu quả nhất

./data/d4eb6fc1-f31a-408b-ab2d-e0012f136e8d.wav

đây thì người ta sẽ sử dụng cái pretrain này với cái câu mà đã cho này

./data/102622a2-0316-4ba7-bd40-9cfd264729ff.wav

ấy tuy nhiên thì đây là một cái cách mà người ta lựa chọn không biết thi có ok không à tuấn anh có ok không

./data/704a6101-abf3-4e85-b545-1ae630a3852a.wav

được không ạ

./data/c9a13b47-087a-427d-a924-cb6783ef81df.wav

ấy thì đấy là cái yếu tố đầu tiên cái yếu tố thứ hai trường thứ hai ấy chính là trường db tức là cái độ cường độ của cái âm thanh đấy

./data/4eeec57b-4d4b-45cc-81d5-09397e072728.wav

những cái mô những cái biến ở đây ấy nó sẽ là public các bạn hiểu ý không

./data/ed6ed65b-4564-49b2-ba12-4cbb7c6061fe.wav

ấy ví dụ đây mình có thể train thêm ba mươi ngàn một lần nữa xem

./data/e672fbde-7151-4cb2-8d6b-14bd6d1da50f.wav

chứ cũng không phải là mình a tự nhiên mà mình gọi là áp dụng cách này

./data/091d055b-d25c-454f-ae0c-3d4361d181a7.wav

ví dụ imagenet này resnet này ấy thì thường mọi người hay dùng

./data/30289ede-96af-449e-bf84-b3451651fb13.wav

hai cái x này nó sẽ quyết định đây là cái loại hoa nào được không ạ

./data/a0f7c494-c396-4243-b98f-d412ef672414.wav

đúng không cái độ chính xác đâu đó có năm mươi tám phần trăm

./data/ced85254-02e3-4530-9061-64c2ad6f1c9a.wav

có phải nói về chủ đề à chính trị hay không mình dùng cái weight đấy để mình làm cho cái task mà

./data/ee00b73b-35df-497a-93db-a5ca0335a2b0.wav

để có thể là làm cho cái quy trình nó ngắn gọn hơn

./data/8826cca8-67bd-4ca1-a4b1-1ea93bbb8f4d.wav

ấy thì khi mà chúng ta làm như vậy thì chúng ta có một cái pretrain để dùng cho cái việc phân loại thật như này

./data/dbfc8d30-cd98-4b77-b77e-08c64de0bb15.wav

như này không được training cao như lần trước

./data/0ae8a416-8ec1-4751-8ff6-286aba357979.wav

có nghĩa các bạn sẽ tính được gradient này xong a cập nhật tham số thôi ấy thì các bạn thấy bây giờ các bạn phải làm bằng tay hết đúng không

./data/ee623e3c-434a-40d4-84ad-963f237e910d.wav

đây giả sử một cái mô hình như này đi

./data/33af1ce4-27ac-4397-b0b3-ff7f789da68a.wav

ok không anh em

./data/aa6b1322-5e3f-4ae8-aa0d-11ba3354764b.wav

cái verbose này là để in ra thôi nếu các bạn không muốn in ra cái a

./data/919edfd2-f127-4ad8-8a72-b89325524a12.wav

ấy thì các bạn luôn luôn phải suy nghĩ như vậy chúng ta phải suy nghĩ là à nếu cho mình thiết kế cái thư viện như thế này thì mình làm như thế nào đúng không

./data/aa4ea5e3-cbba-45a8-98fa-f066e6d32d10.wav

mà tôi thấy cái hiện tượng này xảy ra thì tôi sẽ dừng ấy tất nhiên thì nó lại phụ thuộc phụ thuộc vào kinh nghiệm của mình nữa

./data/30229f5b-731f-47d2-9f58-269304f6104c.wav

mình sẽ ngồi mình dự đoán xem là trong lớp học này có bao nhiêu người sẽ đi chơi

./data/81fe6eb9-3297-4ee3-9915-4155e84c9d2b.wav

có nghĩa nó chia một lúc cho mình mấy cái model xong nó sẽ mình sẽ biết là cái mô hình nào là tốt

./data/ee0c1e90-54a2-42c0-98f7-178a07d09e90.wav

ấy các bạn sẽ phải fine tool thử rất nhiều những cái a mô hình

./data/85b7b722-40de-4a04-8e49-29eb46441fea.wav

mọi người mà ok mọi người thả like nha mọi người có ai có câu hỏi gì nữa không

./data/25a9273d-07eb-43b6-bfe2-7936d9f89614.wav

ở đây thì mình cũng a không có nhắc lại rồi mình xây dựng mô hình này lớp dense này dropout này

./data/3741b4a1-d1f9-4714-a15d-5e19ad270517.wav

ngôn ngữ khác là sao anh ngôn ngữ này là ngôn ngữ gì anh ngôn ngữ a lập trình hay ngôn ngữ tiếng

./data/9122e0d2-29d0-4370-98bf-d2daf1e7a212.wav

ấy các bạn thấy này form logit có nghĩa là đây mình không có softmax

./data/2d7c9847-5d41-4ca5-97a1-ad87de88ecc7.wav

ở trên trang chủ tensorflow nha mọi người cho nên mình lấy thêm một cái notebook nữa để mình nói qua một số cái

./data/4dc87c59-8b08-46ea-a16d-f9b168297302.wav

đấy cho nên là trên một trăm ngàn hay trên mười ngàn thì đều chia cho cái số tương ứng như vậy

./data/3677575a-a637-4ce2-9ba3-f1eb02096e87.wav

đấy ví dụ code là nhận vào bao nhiêu layer này bao nhiêu những cái tham số gì đấy

./data/be28ca07-608a-48d1-b411-0f48e3e4f8a8.wav

có ai có câu hỏi phần này không

./data/3ede30ae-827a-4dbd-aea8-776d34702f4f.wav

đấy thì đây là cái challenge hiện tại mà mình đang a phải đối mặt ấy thì có những cái technique khá là thú vị

./data/1a980807-1d1c-458d-b9df-346e56def5b6.wav

các bạn bật cái notebook nha mọi người

./data/aa10ebe2-fe81-41b1-b487-8dea84258fcd.wav

đây

./data/1253a6cf-b666-45fa-afb5-d6d3622b9fe4.wav

có ai có câu hỏi phần này không trong lúc training

./data/461949b1-5d38-4907-8e42-62e456f685ef.wav

ở train vẫn train vẫn lên và ở validation vẫn lên ok tôi vẫn có thể train thêm được

./data/f4029195-21b2-4859-ac6b-3b6afec90c14.wav

bây giờ mình sẽ hướng dẫn các bạn một số kĩ thuật training

./data/438a01e6-1861-4ab5-9140-766e9edd263a.wav

ấy thì các bạn có thể thử cái cách của mình là mình sẽ

./data/270d851d-8b5d-4644-af74-af4d67977538.wav

sau đó tôi sẽ fine tool

./data/fa0073f8-bdfa-411f-a437-83e65bfa2ca8.wav

ấy thực ra đây cũng cách mà mình hay làm nha nhưng mình không phải làm early stopping mà mình làm theo cái kiểu là

./data/c24bbb56-f14a-4339-aa40-07d523872399.wav

ấy mình bây giờ mình cũng bố trí data mới cho pretrain

./data/1ecd7af1-a05b-446e-aea3-2c7bbf037542.wav

ấy thì ví dụ các bạn tưởng tượng về cái gradient descent ý

./data/9606fa15-ad9e-428b-b477-29180ddc28ef.wav

rồi thì đây là một số cách mà chúng ta đã nhìn qua

./data/83f2b111-6725-455f-be7f-86c5c75862bc.wav

mới ra được cái output ở đây ấy thì từ cái output này các bạn mới bắt đầu tính ra được cái loss đúng không

./data/4408515c-e0fd-4f78-9fd6-4c73d2886e79.wav

rồi trong lúc đợi training thì mình sẽ quay lại slide nào xem có cái gì hay ho hơn không

./data/ecf9d5cd-bda4-43b9-bbef-24da0a3b4bfd.wav

ấy đọc video xong chuyển thành text là một cái model đầu tiên model thứ hai là sẽ là model tìm kiếm

./data/7b93b33d-41c5-458e-9776-e442619234fe.wav

như thế này sau đó mình sẽ mang cả data lớn ra xong bắt đầu mình mới bắt đầu training

./data/56b64efb-360f-48f8-a09c-1127bfcfd848.wav

đấy rescaling resize xong random flip rotation tách batch