Cái nhìn cận cảnh hơn về phía sau các nhà phát triển tên tuổi lớn của Google GPT-4 và những công ty khởi nghiệp nào họ đang chạy ngày hôm nay
Tóm lại
Những người tạo ra kiến trúc mạng thần kinh Transformer đã rời Google để thành lập doanh nghiệp của riêng họ, đã huy động được hàng triệu đô la và được định giá hơn 1 tỷ đô la.
Nếu bạn đã xem loạt phim "Thung lũng Silicon" và không bỏ lỡ tập cuối, thì hãy nhớ mọi chuyện đã kết thúc như thế nào: cả nhóm gặp nhau hai mươi năm sau, hồi tưởng về quá khứ.
Hãy xem điều gì đã xảy ra với các tác giả của kiến trúc mạng thần kinh Transformer làm nền tảng cho ChatGPT và GPT-4. Đội đã featured trong bài báo “Chú ý là tất cả những gì bạn cần” của Google Research (tháng 2017 năm XNUMX). Các tác giả được liệt kê bên dưới theo thứ tự như trong bài viết của Google.
Ashish Vaswani rời Google vào cuối năm 2021 để bắt đầu giỏi, đã huy động được 415 triệu đô la và được định giá hơn 1 tỷ đô la cho đến nay. Tuy nhiên, Ashish đã rời Adept vài tháng trước—vào tháng 2022 năm XNUMX, ngay sau khi phát hành ChatGPT- và thành lập một công ty khởi nghiệp mới. Hiện tại, công ty khởi nghiệp vẫn chưa được đặt tên và không rõ có bao nhiêu người đã tham gia vào công ty và họ đang làm gì.
Trở lại Google, Vaswani đã làm việc về thiết kế mô hình trong giai đoạn đầu và lập trình toàn bộ.
Noam Shazeer đã làm việc tại Google hơn 20 năm, kể từ tháng 2000 năm 2021. Tháng XNUMX năm XNUMX, ông nghỉ việc và thành lập công ty khởi nghiệp Nhân vật.ai. Kể từ đó, công ty đã huy động được 200 triệu đô la và đạt mức định giá gần 1 tỷ đô la. Theo LinkedIn, có khoảng 20 nhân viên làm việc ở đó, vì vậy giá trị trên mỗi đô la rất ấn tượng. Chính Noam là người đã đưa ra ý tưởng về những “cái đầu” khác nhau trong cơ chế chú ý.
| Tìm hiểu thêm: Cách Sử dụng ChatGPT (GPT-4) miễn phí mãi mãi |
Niki Parmar, đồng tác giả nữ duy nhất của bài báo, là nhân viên nghiên cứu của nhóm Google Brain cho đến tháng 2021 năm XNUMX. Sau đó, cô gia nhập Ashish Vaswani tại Adept. Tuy nhiên, như chúng ta đã biết, họ đã không ở đó lâu và cùng nhau rời đi để bắt đầu một dự án mới. Niki đã thực hiện nhiều thí nghiệm đào tạo và xác nhận mô hình.
Jakob Uszkoreit — nhiều người gọi ông là bộ não chính đằng sau việc phát minh ra kiến trúc Transformer. Chính anh ấy là người đã đề xuất thay thế các mạng định kỳ bằng một cơ chế “chú ý” tương tự và bắt đầu tạo nguyên mẫu cho phương pháp đầu tiên. Anh rời Google vào giữa năm 2021 và thành lập cuộc sống khởi đầu, nơi mà nhóm đang làm việc trên mô hình mạng thần kinh của mRNA. mRNA là thứ (đôi khi) làm nền tảng cho vắc-xin (ví dụ: vắc-xin Covid-19 của Pfizer-BioNTech).
sư tử jones là người duy nhất trong danh sách này đang làm việc tại Google cho đến ngày nay. Theo anh, chính anh là người gợi ý tiêu đề của bài báo, nó đã trở thành một meme và tạo ra hàng chục bài báo khác với kiểu “X là tất cả những gì bạn cần”. Ông cũng chịu trách nhiệm tối ưu hóa suy luận và trực quan hóa mô hình cho các thử nghiệm và bài báo.
| Tìm hiểu thêm: Công cụ phát hiện nội dung AI tốt nhất năm 2023 |
Aidan Gómez rời Google vào mùa thu năm 2019 để thành lập mạch lạc.ai. Công ty tiếp tục làm việc trên các mô hình ngôn ngữ; một số sản phẩm của họ tương tự như các trường hợp sử dụng mà mọi người đã có trong những ngày đầu sau khi phát hành ChatGPT. Quản lý để thu hút hơn 400 triệu đô la đầu tư và phát triển công ty lên gần 200 nhân viên.
Lukasz Kaiser, sau hơn bảy năm làm việc tại Google, đã rời đi vào mùa hè năm 2021 để làm việc tại OpenAI. Bài viết gốc nói rằng Lukasz chịu trách nhiệm phát triển và tối ưu hóa mã. Ông là một trong những đồng tác giả của TensorFlow, một thư viện để tạo và đào tạo mạng lưới thần kinh. Anh ấy là một kỹ sư rất giỏi—và hiện đang làm việc trên GPT 👀 Là một phần của công việc trên Transformer, anh ấy đã làm việc với Aidan Gomez để cải thiện cơ sở mã và tăng tốc độ lặp lại trong công việc nghiên cứu (thông qua tương tác và tạo nguyên mẫu dễ dàng hơn).
Illia Polosukhin rời Google vào năm 2017, trước khi phát hành bài báo, để thành lập Gần, một giao thức blockchain về cơ bản là đối thủ cạnh tranh của Ethereum. Định giá hiện tại của nó là khoảng 2 tỷ đô la và chỉ trong sáu năm, hơn 375 triệu đô la đã được huy động dưới dạng đầu tư.
Đọc thêm về AI:
Từ chối trách nhiệm
Phù hợp với Hướng dẫn của Dự án Tin cậy, xin lưu ý rằng thông tin được cung cấp trên trang này không nhằm mục đích và không được hiểu là tư vấn pháp lý, thuế, đầu tư, tài chính hoặc bất kỳ hình thức tư vấn nào khác. Điều quan trọng là chỉ đầu tư những gì bạn có thể đủ khả năng để mất và tìm kiếm lời khuyên tài chính độc lập nếu bạn có bất kỳ nghi ngờ nào. Để biết thêm thông tin, chúng tôi khuyên bạn nên tham khảo các điều khoản và điều kiện cũng như các trang trợ giúp và hỗ trợ do nhà phát hành hoặc nhà quảng cáo cung cấp. MetaversePost cam kết báo cáo chính xác, không thiên vị nhưng điều kiện thị trường có thể thay đổi mà không cần thông báo trước.
Giới thiệu về Tác giả
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
Xem thêm bài viết
Damir là trưởng nhóm, quản lý sản phẩm và biên tập viên tại Metaverse Post, bao gồm các chủ đề như AI/ML, AGI, LLMs, Metaverse và Web3-các lĩnh vực liên quan. Các bài báo của anh ấy thu hút một lượng lớn độc giả với hơn một triệu người dùng mỗi tháng. Anh ấy có vẻ là một chuyên gia với 10 năm kinh nghiệm về SEO và tiếp thị kỹ thuật số. Damir đã được đề cập trong Mashable, Wired, Cointelegraph, The New Yorker, Inside.com, Entrepreneur, BeInCrypto và các ấn phẩm khác. Anh đi lại giữa Các Tiểu vương quốc Ả Rập Thống nhất, Thổ Nhĩ Kỳ, Nga và CIS với tư cách là một người du mục kỹ thuật số. Damir đã có bằng cử nhân vật lý, bằng cấp mà anh tin rằng đã mang lại cho anh những kỹ năng tư duy phản biện cần thiết để thành công trong bối cảnh luôn thay đổi của Internet.
