Natural Language Processing with Transformers, Revised Edition
- Autorzy:
- Lewis Tunstall, Leandro von Werra, Thomas Wolf
- Ocena:
- Bądź pierwszym, który oceni tę książkę
- Stron:
- 408
- Dostępne formaty:
-
ePubMobi
Opis ebooka: Natural Language Processing with Transformers, Revised Edition
Since their introduction in 2017, transformers have quickly become the dominant architecture for achieving state-of-the-art results on a variety of natural language processing tasks. If you're a data scientist or coder, this practical book -now revised in full color- shows you how to train and scale these large models using Hugging Face Transformers, a Python-based deep learning library.
Transformers have been used to write realistic news stories, improve Google Search queries, and even create chatbots that tell corny jokes. In this guide, authors Lewis Tunstall, Leandro von Werra, and Thomas Wolf, among the creators of Hugging Face Transformers, use a hands-on approach to teach you how transformers work and how to integrate them in your applications. You'll quickly learn a variety of tasks they can help you solve.
- Build, debug, and optimize transformer models for core NLP tasks, such as text classification, named entity recognition, and question answering
- Learn how transformers can be used for cross-lingual transfer learning
- Apply transformers in real-world scenarios where labeled data is scarce
- Make transformer models efficient for deployment using techniques such as distillation, pruning, and quantization
- Train transformers from scratch and learn how to scale to multiple GPUs and distributed environments
Wybrane bestsellery
-
Tę książkę docenią praktycy: inżynierowie uczenia maszynowego i analitycy danych, poszukujący sposobu praktycznego zaadaptowania modeli transformacyjnych do swoich potrzeb. Autorzy skupili się na praktycznej stronie tworzenia aplikacji językowych, a w poszczególnych rozdziałach ujęto wszystkie na...
Przetwarzanie języka naturalnego z wykorzystaniem transformerów. Budowanie aplikacji językowych za pomocą bibliotek Hugging Face Przetwarzanie języka naturalnego z wykorzystaniem transformerów. Budowanie aplikacji językowych za pomocą bibliotek Hugging Face
(64.35 zł najniższa cena z 30 dni)69.30 zł
99.00 zł(-30%) -
Oto zaktualizowane wydanie popularnego przewodnika, dzięki któremu skorzystasz z ponad dwustu sprawdzonych receptur bazujących na najnowszych wydaniach bibliotek Pythona. Wystarczy, że skopiujesz i dostosujesz kod do swoich potrzeb. Możesz też go uruchamiać i testować za pomocą przykładowego zbio...
Uczenie maszynowe w Pythonie. Receptury. Od przygotowania danych do deep learningu. Wydanie II Uczenie maszynowe w Pythonie. Receptury. Od przygotowania danych do deep learningu. Wydanie II
(57.84 zł najniższa cena z 30 dni)62.30 zł
89.00 zł(-30%) -
Odkryj fascynujący świat sztucznej inteligencji (AI) bez zbędnych komplikacji! Ta książka to idealny przewodnik dla każdego, kto chce zrozumieć, jak AI zmienia nasz świat, od podstawowych pojęć po zaawansowane technologie. Dzięki jasnym wyjaśnieniom i przystępnemu językowi, autor demistyfikuje sk...
AI bez tajemnic. Sztuczna Inteligencja od podstaw po zaawansowane techniki AI bez tajemnic. Sztuczna Inteligencja od podstaw po zaawansowane techniki
-
Tę książkę docenią wszyscy zainteresowani eksploracją danych i uczeniem maszynowym, którzy chcieliby pewnie poruszać się w świecie nauki o danych. Pokazano tu, w jaki sposób Excel pozwala zobrazować proces ich eksplorowania i jak działają poszczególne techniki w tym zakresie. Przejrzyście wyjaśni...
Eksploracja danych za pomocą Excela. Metody uczenia maszynowego krok po kroku Eksploracja danych za pomocą Excela. Metody uczenia maszynowego krok po kroku
(43.55 zł najniższa cena z 30 dni)46.90 zł
67.00 zł(-30%) -
Oto praktyczny przewodnik po nauce o danych w miejscu pracy. Dowiesz się stąd wszystkiego, co ważne na początku Twojej drogi jako danologa: od osobowości, z którymi przyjdzie Ci pracować, przez detale analizy danych, po matematykę stojącą za algorytmami i uczeniem maszynowym. Nauczysz się myśleć ...
Analityk danych. Przewodnik po data science, statystyce i uczeniu maszynowym Analityk danych. Przewodnik po data science, statystyce i uczeniu maszynowym
(44.85 zł najniższa cena z 30 dni)48.30 zł
69.00 zł(-30%) -
Książka jest adresowana do wszystkich, którzy chcą budować, rozwijać i skalować systemy NLP w środowisku biznesowym, a także dostosowywać je do swojej branży. Opisuje tworzenie rzeczywistych aplikacji NLP. Omawia pełny cykl życia typowego projektu NLP, od zbierania danych po wdrożenie i monitorow...
Przetwarzanie języka naturalnego w praktyce. Przewodnik po budowie rzeczywistych systemów NLP Przetwarzanie języka naturalnego w praktyce. Przewodnik po budowie rzeczywistych systemów NLP
Sowmya Vajjala, Bodhisattwa Majumder, Anuj Gupta, Harshit Surana
(70.85 zł najniższa cena z 30 dni)76.30 zł
109.00 zł(-30%) -
Głębokie sieci neuronowe mają niesamowity potencjał. Osiągnięcia ostatnich lat nadały procesom uczenia głębokiego zupełnie nową jakość. Obecnie nawet programiści niezaznajomieni z tą technologią mogą korzystać z prostych i niezwykle skutecznych narzędzi, pozwalających na sprawne implementowanie p...
Uczenie maszynowe z użyciem Scikit-Learn, Keras i TensorFlow. Wydanie III Uczenie maszynowe z użyciem Scikit-Learn, Keras i TensorFlow. Wydanie III
(116.35 zł najniższa cena z 30 dni)125.30 zł
179.00 zł(-30%) -
Książka stanowi kompendium wiedzy na temat tej niesłychanie szybko rozwijającej się i dynamicznie wkraczającej w nasze życie dziedziny. Została napisana tak, aby była przystępna dla osób posiadających podstawowe umiejętności matematyczne. Może stanowić podręcznik dla studentów takich kierunków ja...(31.85 zł najniższa cena z 30 dni)
34.30 zł
49.00 zł(-30%) -
Sztuczna inteligencja staje się powoli nieodzownym składnikiem naszego życia. Przeszła długą drogę od modnego hasła pojawiającego się głównie w specjalistycznych publikacjach do technologii mającej realny wpływ na naszą codzienność. Z każdym dniem lepiej radzi sobie z coraz bardziej zaawansowanym...(48.30 zł najniższa cena z 30 dni)
48.30 zł
69.00 zł(-30%) -
To książka przeznaczona dla inżynierów, którzy chcą stosować systemy uczenia maszynowego do rozwiązywania rzeczywistych problemów biznesowych. Zaprezentowano w niej systemy ML używane w szybko rozwijających się startupach, a także przedstawiono holistyczne podejście do ich projektowania ― z...
Jak projektować systemy uczenia maszynowego. Iteracyjne tworzenie aplikacji gotowych do pracy Jak projektować systemy uczenia maszynowego. Iteracyjne tworzenie aplikacji gotowych do pracy
(57.84 zł najniższa cena z 30 dni)62.30 zł
89.00 zł(-30%)
O autorach ebooka
Lewis Tunstall obecnie tworzy narzędzia dla społeczności NLP.
Leandro von Werra zajmuje się głównie modelami generowania kodu i komunikacją ze społecznością.
Thomas Wolf jest głównym dyrektorem naukowym. Zajmuje się możliwie najszerszym upowszechnianiem wyników badań nad sztuczną inteligencją.
Kup polskie wydanie:
Przetwarzanie języka naturalnego z wykorzystaniem transformerów. Budowanie aplikacji językowych za pomocą bibliotek Hugging Face
- Autor:
- Lewis Tunstall, Leandro von Werra, Thomas Wolf
54,45 zł
99,00 zł
(49.50 zł najniższa cena z 30 dni)
Ebooka "Natural Language Processing with Transformers, Revised Edition" przeczytasz na:
-
czytnikach Inkbook, Kindle, Pocketbook, Onyx Boox i innych
-
systemach Windows, MacOS i innych
-
systemach Windows, Android, iOS, HarmonyOS
-
na dowolnych urządzeniach i aplikacjach obsługujących formaty: PDF, EPub, Mobi
Masz pytania? Zajrzyj do zakładki Pomoc »
Audiobooka "Natural Language Processing with Transformers, Revised Edition" posłuchasz:
-
w aplikacji Ebookpoint na Android, iOS, HarmonyOs
-
na systemach Windows, MacOS i innych
-
na dowolnych urządzeniach i aplikacjach obsługujących format MP3 (pliki spakowane w ZIP)
Masz pytania? Zajrzyj do zakładki Pomoc »
Kurs Video "Natural Language Processing with Transformers, Revised Edition" zobaczysz:
-
w aplikacjach Ebookpoint i Videopoint na Android, iOS, HarmonyOs
-
na systemach Windows, MacOS i innych z dostępem do najnowszej wersji Twojej przeglądarki internetowej
Szczegóły ebooka
- ISBN Ebooka:
- 978-10-981-3675-8, 9781098136758
- Data wydania ebooka:
- 2022-05-26 Data wydania ebooka często jest dniem wprowadzenia tytułu do sprzedaży i może nie być równoznaczna z datą wydania książki papierowej. Dodatkowe informacje możesz znaleźć w darmowym fragmencie. Jeśli masz wątpliwości skontaktuj się z nami sklep@ebookpoint.pl.
- Język publikacji:
- angielski
- Rozmiar pliku ePub:
- 10.8MB
- Rozmiar pliku Mobi:
- 19.2MB
Spis treści ebooka
- Foreword
- Preface
- Who Is This Book For?
- What You Will Learn
- Software and Hardware Requirements
- Conventions Used in This Book
- Using Code Examples
- OReilly Online Learning
- How to Contact Us
- Acknowledgments
- Lewis
- Leandro
- Thomas
- 1. Hello Transformers
- The Encoder-Decoder Framework
- Attention Mechanisms
- Transfer Learning in NLP
- Hugging Face Transformers: Bridging the Gap
- A Tour of Transformer Applications
- Text Classification
- Named Entity Recognition
- Question Answering
- Summarization
- Translation
- Text Generation
- The Hugging Face Ecosystem
- The Hugging Face Hub
- Hugging Face Tokenizers
- Hugging Face Datasets
- Hugging Face Accelerate
- Main Challenges with Transformers
- Conclusion
- 2. Text Classification
- The Dataset
- A First Look at Hugging Face Datasets
- From Datasets to DataFrames
- Looking at the Class Distribution
- How Long Are Our Tweets?
- The Dataset
- From Text to Tokens
- Character Tokenization
- Word Tokenization
- Subword Tokenization
- Tokenizing the Whole Dataset
- Training a Text Classifier
- Transformers as Feature Extractors
- Using pretrained models
- Extracting the last hidden states
- Creating a feature matrix
- Visualizing the training set
- Training a simple classifier
- Transformers as Feature Extractors
- Fine-Tuning Transformers
- Loading a pretrained model
- Defining the performance metrics
- Training the model
- Error analysis
- Saving and sharing the model
- Conclusion
- 3. Transformer Anatomy
- The Transformer Architecture
- The Encoder
- Self-Attention
- Scaled dot-product attention
- Multi-headed attention
- Self-Attention
- The Feed-Forward Layer
- Adding Layer Normalization
- Positional Embeddings
- Adding a Classification Head
- The Decoder
- Meet the Transformers
- The Transformer Tree of Life
- The Encoder Branch
- The Decoder Branch
- The Encoder-Decoder Branch
- Conclusion
- 4. Multilingual Named Entity Recognition
- The Dataset
- Multilingual Transformers
- A Closer Look at Tokenization
- The Tokenizer Pipeline
- The SentencePiece Tokenizer
- Transformers for Named Entity Recognition
- The Anatomy of the Transformers Model Class
- Bodies and Heads
- Creating a Custom Model for Token Classification
- Loading a Custom Model
- Tokenizing Texts for NER
- Performance Measures
- Fine-Tuning XLM-RoBERTa
- Error Analysis
- Cross-Lingual Transfer
- When Does Zero-Shot Transfer Make Sense?
- Fine-Tuning on Multiple Languages at Once
- Interacting with Model Widgets
- Conclusion
- 5. Text Generation
- The Challenge with Generating Coherent Text
- Greedy Search Decoding
- Beam Search Decoding
- Sampling Methods
- Top-k and Nucleus Sampling
- Which Decoding Method Is Best?
- Conclusion
- 6. Summarization
- The CNN/DailyMail Dataset
- Text Summarization Pipelines
- Summarization Baseline
- GPT-2
- T5
- BART
- PEGASUS
- Comparing Different Summaries
- Measuring the Quality of Generated Text
- BLEU
- ROUGE
- Evaluating PEGASUS on the CNN/DailyMail Dataset
- Training a Summarization Model
- Evaluating PEGASUS on SAMSum
- Fine-Tuning PEGASUS
- Generating Dialogue Summaries
- Conclusion
- 7. Question Answering
- Building a Review-Based QA System
- The Dataset
- Extracting Answers from Text
- Span classification
- Tokenizing text for QA
- Dealing with long passages
- Using Haystack to Build a QA Pipeline
- Initializing a document store
- Initializing a retriever
- Initializing a reader
- Putting it all together
- Building a Review-Based QA System
- Improving Our QA Pipeline
- Evaluating the Retriever
- Dense Passage Retrieval
- Evaluating the Retriever
- Evaluating the Reader
- Domain Adaptation
- Evaluating the Whole QA Pipeline
- Going Beyond Extractive QA
- Conclusion
- 8. Making Transformers Efficient in Production
- Intent Detection as a Case Study
- Creating a Performance Benchmark
- Making Models Smaller via Knowledge Distillation
- Knowledge Distillation for Fine-Tuning
- Knowledge Distillation for Pretraining
- Creating a Knowledge Distillation Trainer
- Choosing a Good Student Initialization
- Finding Good Hyperparameters with Optuna
- Benchmarking Our Distilled Model
- Making Models Faster with Quantization
- Benchmarking Our Quantized Model
- Optimizing Inference with ONNX and the ONNX Runtime
- Making Models Sparser with Weight Pruning
- Sparsity in Deep Neural Networks
- Weight Pruning Methods
- Magnitude pruning
- Movement pruning
- Conclusion
- 9. Dealing with Few to No Labels
- Building a GitHub Issues Tagger
- Getting the Data
- Preparing the Data
- Creating Training Sets
- Creating Training Slices
- Building a GitHub Issues Tagger
- Implementing a Naive Bayesline
- Working with No Labeled Data
- Working with a Few Labels
- Data Augmentation
- Using Embeddings as a Lookup Table
- Fine-Tuning a Vanilla Transformer
- In-Context and Few-Shot Learning with Prompts
- Leveraging Unlabeled Data
- Fine-Tuning a Language Model
- Fine-Tuning a Classifier
- Advanced Methods
- Unsupervised data augmentation
- Uncertainty-aware self-training
- Conclusion
- 10. Training Transformers from Scratch
- Large Datasets and Where to Find Them
- Challenges of Building a Large-Scale Corpus
- Building a Custom Code Dataset
- Creating a dataset with Google BigQuery
- Working with Large Datasets
- Memory mapping
- Streaming
- Large Datasets and Where to Find Them
- Adding Datasets to the Hugging Face Hub
- Building a Tokenizer
- The Tokenizer Model
- Measuring Tokenizer Performance
- A Tokenizer for Python
- Training a Tokenizer
- Saving a Custom Tokenizer on the Hub
- Training a Model from Scratch
- A Tale of Pretraining Objectives
- Causal language modeling
- Masked language modeling
- Sequence-to-sequence training
- A Tale of Pretraining Objectives
- Initializing the Model
- Implementing the Dataloader
- Defining the Training Loop
- The Training Run
- Results and Analysis
- Conclusion
- 11. Future Directions
- Scaling Transformers
- Scaling Laws
- Challenges with Scaling
- Attention Please!
- Sparse Attention
- Linearized Attention
- Scaling Transformers
- Going Beyond Text
- Vision
- iGPT
- ViT
- Vision
- Tables
- Multimodal Transformers
- Speech-to-Text
- Vision and Text
- VQA
- LayoutLM
- DALLE
- CLIP
- Where to from Here?
- Index
O'Reilly Media - inne książki
-
Software as a service (SaaS) is on the path to becoming the de facto model for building, delivering, and operating software solutions. Adopting a multi-tenant SaaS model requires builders to take on a broad range of new architecture, implementation, and operational challenges. How data is partiti...(237.15 zł najniższa cena z 30 dni)
245.65 zł
289.00 zł(-15%) -
Great engineers don't necessarily make great leaders—at least, not without a lot of work. Finding your path to becoming a strong leader is often fraught with challenges. It's not easy to figure out how to be strategic, successful, and considerate while also being firm. Whether you're on the...(118.15 zł najniższa cena z 30 dni)
126.65 zł
149.00 zł(-15%) -
Data science happens in code. The ability to write reproducible, robust, scaleable code is key to a data science project's success—and is absolutely essential for those working with production code. This practical book bridges the gap between data science and software engineering,and clearl...(211.65 zł najniższa cena z 30 dni)
220.15 zł
259.00 zł(-15%) -
With the massive adoption of microservices, operators and developers face far more complexity in their applications today. Service meshes can help you manage this problem by providing a unified control plane to secure, manage, and monitor your entire network. This practical guide shows you how th...(194.65 zł najniższa cena z 30 dni)
203.15 zł
239.00 zł(-15%) -
Get practical advice on how to leverage AI development tools for all stages of code creation, including requirements, planning, design, coding, debugging, testing, and documentation. With this book, beginners and experienced developers alike will learn how to use a wide range of tools, from gener...(164.25 zł najniższa cena z 30 dni)
186.15 zł
219.00 zł(-15%) -
Rust's popularity is growing, due in part to features like memory safety, type safety, and thread safety. But these same elements can also make learning Rust a challenge, even for experienced programmers. This practical guide helps you make the transition to writing idiomatic Rust—while als...(164.25 zł najniższa cena z 30 dni)
186.15 zł
219.00 zł(-15%) -
Advance your Power BI skills by adding AI to your repertoire at a practice level. With this practical book, business-oriented software engineers and developers will learn the terminologies, practices, and strategy necessary to successfully incorporate AI into your business intelligence estate. Je...(211.65 zł najniższa cena z 30 dni)
220.15 zł
259.00 zł(-15%) -
Microservices can be a very effective approach for delivering value to your organization and to your customers. If you get them right, microservices help you to move fast by making changes to small parts of your system hundreds of times a day. But if you get them wrong, microservices will just ma...(203.15 zł najniższa cena z 30 dni)
203.15 zł
239.00 zł(-15%) -
JavaScript gives web developers great power to create rich interactive browser experiences, and much of that power is provided by the browser itself. Modern web APIs enable web-based applications to come to life like never before, supporting actions that once required browser plug-ins. Some are s...(186.15 zł najniższa cena z 30 dni)
186.15 zł
219.00 zł(-15%) -
How will software development and operations have to change to meet the sustainability and green needs of the planet? And what does that imply for development organizations? In this eye-opening book, sustainable software advocates Anne Currie, Sarah Hsu, and Sara Bergman provide a unique overview...(169.14 zł najniższa cena z 30 dni)
169.14 zł
199.00 zł(-15%)
Dzieki opcji "Druk na żądanie" do sprzedaży wracają tytuły Grupy Helion, które cieszyły sie dużym zainteresowaniem, a których nakład został wyprzedany.
Dla naszych Czytelników wydrukowaliśmy dodatkową pulę egzemplarzy w technice druku cyfrowego.
Co powinieneś wiedzieć o usłudze "Druk na żądanie":
- usługa obejmuje tylko widoczną poniżej listę tytułów, którą na bieżąco aktualizujemy;
- cena książki może być wyższa od początkowej ceny detalicznej, co jest spowodowane kosztami druku cyfrowego (wyższymi niż koszty tradycyjnego druku offsetowego). Obowiązująca cena jest zawsze podawana na stronie WWW książki;
- zawartość książki wraz z dodatkami (płyta CD, DVD) odpowiada jej pierwotnemu wydaniu i jest w pełni komplementarna;
- usługa nie obejmuje książek w kolorze.
Masz pytanie o konkretny tytuł? Napisz do nas: sklep[at]helion.pl.
Książka, którą chcesz zamówić pochodzi z końcówki nakładu. Oznacza to, że mogą się pojawić drobne defekty (otarcia, rysy, zagięcia).
Co powinieneś wiedzieć o usłudze "Końcówka nakładu":
- usługa obejmuje tylko książki oznaczone tagiem "Końcówka nakładu";
- wady o których mowa powyżej nie podlegają reklamacji;
Masz pytanie o konkretny tytuł? Napisz do nas: sklep[at]helion.pl.
Książka drukowana
Oceny i opinie klientów: Natural Language Processing with Transformers, Revised Edition Lewis Tunstall, Leandro von Werra, Thomas Wolf (0) Weryfikacja opinii następuję na podstawie historii zamówień na koncie Użytkownika umieszczającego opinię. Użytkownik mógł otrzymać punkty za opublikowanie opinii uprawniające do uzyskania rabatu w ramach Programu Punktowego.