Lucene - 字段选项

上一页
下一页

字段是索引过程中最重要的单元。它是包含待索引内容的实际对象。当我们添加字段时，Lucene 使用字段选项提供了对字段的大量控制，这些选项说明了字段的可搜索程度。

我们将包含字段的文档添加到 IndexWriter 中，其中 IndexWriter 用于更新或创建索引。

现在，我们将向您展示一个逐步的方法，并帮助您使用一个基本示例理解各种字段选项。

各种字段选项

以下是各种字段选项：

  • Index.ANALYZED - 在此，我们先分析，然后进行索引。这用于普通文本索引。分析器会将字段的值分解成标记流，每个标记都是单独可搜索的。

  • Index.NOT_ANALYZED - 在此，我们不分析，但进行索引。这用于完整文本索引。例如，人名、URL 等。

  • Index.ANALYZED_NO_NORMS - 这是Index.ANALYZED的一个变体。分析器会将字段的值分解成标记流，每个标记都是单独可搜索的。但是，NORMS 不存储在索引中。NORMS 用于增强搜索，这通常会消耗大量内存。

  • Index.Index.NOT_ANALYZED_NO_NORMS - 这是Index.NOT_ANALYZED的一个变体。索引已完成，但 NORMS 未存储在索引中。

  • Index.NO - 字段值不可搜索。

字段选项的使用

以下是字段选项的不同使用方法：

  • 创建一个从文本文件获取 Lucene 文档的方法。

  • 创建各种类型的字段，这些字段是键值对，其中键作为名称，值作为待索引的内容。

  • 设置字段是否进行分析。在本例中，只有内容需要分析，因为它可能包含诸如 a、am、are、an 等数据，这些数据在搜索操作中不需要。

  • 将新创建的字段添加到文档对象并将其返回给调用方法。

private Document getDocument(File file) throws IOException {
   Document document = new Document();

   //index file contents
   Field contentField = new Field(LuceneConstants.CONTENTS, 
      new FileReader(file));
   
   //index file name
   Field fileNameField = new Field(LuceneConstants.FILE_NAME,
      file.getName(),
      Field.Store.YES,Field.Index.NOT_ANALYZED);
   
   //index file path
   Field filePathField = new Field(LuceneConstants.FILE_PATH,
      file.getCanonicalPath(),
      Field.Store.YES,Field.Index.NOT_ANALYZED);

   document.add(contentField);
   document.add(fileNameField);
   document.add(filePathField);

   return document;
}

示例应用程序

为了测试索引过程，我们需要创建一个 Lucene 应用程序测试。

步骤 描述
1

创建一个名为LuceneFirstApplication的项目，放在com.tutorialspoint.lucene包下，如Lucene - 第一个应用程序章节中所述。您也可以使用EJB - 第一个应用程序章节中创建的项目，以便理解索引过程。
2

创建LuceneConstants.java,TextFileFilter.java和Indexer.java，如Lucene - 第一个应用程序章节中所述。保持其余文件不变。
3

创建如下所示的LuceneTester.java。
4

清理并构建应用程序，以确保业务逻辑按要求工作。

LuceneConstants.java

此类用于提供可在示例应用程序中使用的各种常量。

package com.tutorialspoint.lucene;

public class LuceneConstants {
   public static final String CONTENTS = "contents";
   public static final String FILE_NAME = "filename";
   public static final String FILE_PATH = "filepath";
   public static final int MAX_SEARCH = 10;
}

TextFileFilter.java

此类用作 .txt 文件过滤器。

package com.tutorialspoint.lucene;

import java.io.File;
import java.io.FileFilter;

public class TextFileFilter implements FileFilter {

   @Override
   public boolean accept(File pathname) {
      return pathname.getName().toLowerCase().endsWith(".txt");
   }
}

Indexer.java

此类用于索引原始数据，以便我们可以使用 Lucene 库对其进行搜索。

package com.tutorialspoint.lucene;

import java.io.File;
import java.io.FileFilter;
import java.io.FileReader;
import java.io.IOException;

import org.apache.lucene.analysis.standard.StandardAnalyzer;
import org.apache.lucene.document.Document;
import org.apache.lucene.document.Field;
import org.apache.lucene.index.CorruptIndexException;
import org.apache.lucene.index.IndexWriter;
import org.apache.lucene.store.Directory;
import org.apache.lucene.store.FSDirectory;
import org.apache.lucene.util.Version;

public class Indexer {

   private IndexWriter writer;

   public Indexer(String indexDirectoryPath) throws IOException {
      //this directory will contain the indexes
      Directory indexDirectory = 
         FSDirectory.open(new File(indexDirectoryPath));

      //create the indexer
      writer = new IndexWriter(indexDirectory, 
         new StandardAnalyzer(Version.LUCENE_36),true,
         IndexWriter.MaxFieldLength.UNLIMITED);
   }

   public void close() throws CorruptIndexException, IOException {
      writer.close();
   }

   private Document getDocument(File file) throws IOException {
      Document document = new Document();

      //index file contents
      Field contentField = new Field(LuceneConstants.CONTENTS, 
         new FileReader(file));
      
      //index file name
      Field fileNameField = new Field(LuceneConstants.FILE_NAME,
         file.getName(),
         Field.Store.YES,Field.Index.NOT_ANALYZED);
      
      //index file path
      Field filePathField = new Field(LuceneConstants.FILE_PATH,
         file.getCanonicalPath(),
         Field.Store.YES,Field.Index.NOT_ANALYZED);

      document.add(contentField);
      document.add(fileNameField);
      document.add(filePathField);

      return document;
   }   

   private void indexFile(File file) throws IOException {
      System.out.println("Indexing "+file.getCanonicalPath());
      Document document = getDocument(file);
      writer.addDocument(document);
   }

   public int createIndex(String dataDirPath, FileFilter filter) 
      throws IOException {
      //get all files in the data directory
      File[] files = new File(dataDirPath).listFiles();

      for (File file : files) {
         if(!file.isDirectory()
            && !file.isHidden()
            && file.exists()
            && file.canRead()
            && filter.accept(file)
         ){
            indexFile(file);
         }
      }
      return writer.numDocs();
   }
}

LuceneTester.java

此类用于测试 Lucene 库的索引功能。

package com.tutorialspoint.lucene;

import java.io.IOException;

public class LuceneTester {
	
   String indexDir = "E:\\Lucene\\Index";
   String dataDir = "E:\\Lucene\\Data";
   Indexer indexer;
   
   public static void main(String[] args) {
      LuceneTester tester;
      try {
         tester = new LuceneTester();
         tester.createIndex();
      } catch (IOException e) {
         e.printStackTrace();
      } 
   }

   private void createIndex() throws IOException {
      indexer = new Indexer(indexDir);
      int numIndexed;
      long startTime = System.currentTimeMillis();	
      numIndexed = indexer.createIndex(dataDir, new TextFileFilter());
      long endTime = System.currentTimeMillis();
      indexer.close();
      System.out.println(numIndexed+" File indexed, time taken: "
         +(endTime-startTime)+" ms");		
   }
}

数据和索引目录创建

我们使用了 10 个文本文件，从 record1.txt 到 record10.txt，包含学生姓名和其他详细信息，并将它们放在 E:\Lucene\Data 目录中。测试数据。应创建索引目录路径为E:\Lucene\Index。运行此程序后，您可以在该文件夹中看到创建的索引文件列表。

运行程序

完成源代码、原始数据、数据目录和索引目录的创建后，您可以编译并运行程序。为此，请保持LuceneTester.Java文件选项卡处于活动状态，并使用 Eclipse IDE 中提供的“运行”选项，或使用Ctrl + F11来编译并运行您的LuceneTester应用程序。如果您的应用程序成功运行，它将在 Eclipse IDE 的控制台中打印以下消息：

Indexing E:\Lucene\Data\record1.txt
Indexing E:\Lucene\Data\record10.txt
Indexing E:\Lucene\Data\record2.txt
Indexing E:\Lucene\Data\record3.txt
Indexing E:\Lucene\Data\record4.txt
Indexing E:\Lucene\Data\record5.txt
Indexing E:\Lucene\Data\record6.txt
Indexing E:\Lucene\Data\record7.txt
Indexing E:\Lucene\Data\record8.txt
Indexing E:\Lucene\Data\record9.txt
10 File indexed, time taken: 109 ms

成功运行程序后，您的索引目录中将包含以下内容：

Lucene Index Directory
lucene_indexing_operations.htm
打印页面
上一页
下一页
广告