将 SQL 结果优化为 ScreenWriter

Question

我有一个程序可以读取文件文件夹（总共 4GB），为它们编制索引，然后将它们添加到链接的 SQL 数据库中。这一切都发生在表单加载之前。

现在我希望有另一个文件，每行包含一个 13 位数字，并查询 SQL 数据库，从 VB 搜索每个数字到 return 哪个文件夹、文件和行号包含该编号。

我下面的方法现在可以用了，但是速度很慢。我需要找到一种更快的方法来直接转到文件中我的号码的特定行并在该位置写入新的文本行。

Dim result = From n In System.IO.File.ReadLines("G:\USER\SearchThese.txt")
                     Select n.Substring(0, 13)


Dim MyFilePath As String
Dim linePos As String
Dim lines As String
'-- connection
Dim con As New SqlConnection(***MY SQL CONNECTION***)

Dim dataset As New DataSet
Dim datatable As DataTable
Dim dataadapter As New SqlDataAdapter
Dim sql As String

Dim i As Integer

'-- command
Dim cmd As New SqlCommand()
con.Open()

Using sw As New StreamWriter("G:\USER\TESTRUN1.txt")
    For Each word As String In result
        i = 0
        sql = ("SELECT * FROM Test_Table WHERE DigNum = @word")
        dataadapter = New SqlDataAdapter(sql, con)
        dataadapter.SelectCommand.Parameters.AddWithValue("@word", word)
        dataset = New DataSet()
        dataadapter.Fill(dataset, "Test_Table")

        While i < dataset.Tables("Test_Table").Rows.Count

            linePos = dataset.Tables("Test_Table").Rows(i).Item(4).ToString()
            MyFilePath = dataset.Tables("Test_Table").Rows(i).Item(1).ToString()
            i += 1
            Using sr As New StreamReader(MyFilePath)
                For n As Integer = 1 To linePos
                    lines = sr.ReadLine
                Next
                sw.WriteLine(lines)
            End Using

        End While


   Next

End Using
MsgBox("Complete!")

就像我说的那样工作正常，但即使只搜索 5 个数字也需要相当长的时间。我猜流阅读器会减慢它的速度，但我不知道。

如果有人问，我的数据库 table 有这些列：

DigNum | FilPth | FilDte | DteAdd | LnePos

Answer 1

当尝试优化这样一段代码的性能时，您需要逐个调用地衡量性能。您可以使用 Visual Studio 的分析工具来执行此操作（请参阅：https://docs.microsoft.com/en-us/visualstudio/profiling/profiling-feature-tour?view=vs-2017）

获得此数据后，您将能够直接查看导致性能问题的原因，而不是猜测。您还将进行测量，因此当您更改代码时，您可以查看性能是提高了还是变差了。这再次消除了过程中的猜测，这很重要，因为现代编译器和系统在幕后做了很多工作来提高性能，但很容易破坏这些优化。

Answer 2

嗨，伙计们，我已经开始工作了，而且似乎几乎立即就可以完美地工作。多亏了评论的帮助才搞定！

Using sw As New StreamWriter("G:\USER\TESTRUN1.txt")
            For Each word As String In result
                i = 0
                sql = "SELECT * FROM Test_Table WHERE DigNbr = @word"
                dataadapter = New SqlDataAdapter(sql, con)
                dataadapter.SelectCommand.Parameters.AddWithValue("@word", word)
                dataset = New DataSet()
                dataadapter.Fill(dataset, "Test_Table")

                While i < dataset.Tables("Test_Table").Rows.Count

                    linePos = dataset.Tables("Test_Table").Rows(i).Item(4).ToString()
                    MyFilePath = dataset.Tables("Test_Table").Rows(i).Item(1).ToString()
                    i += 1


                    Using sr As New StreamReader(MyFilePath)
                        sr.BaseStream.Seek(4096 * (linePos - 1), SeekOrigin.Begin)
                        FoundWords.Add(sr.ReadLine)
                        For Each item As String In FoundWords
                            sw.WriteLine(item)

                        Next
                        FoundWords.Clear()
                    End Using

基本上对于任何阅读我使用搜索方法的人来说，每一行都是 4096 字节，所以换句话说，每 4097 字节开始一个新行，所以我的行号表明我正在寻找的 13 位数字是哪一行在我只是简单地将它相乘，所以搜索直接到那个字节（行）并获取该行。

例如说我是第 10 行的数字，4096 * 10 是 40960，这是第 10 行开始的地方。就像评论说的那样，我基本上搜索位置 (55*4096) 而不是搜索第 55 行。

我不太擅长解释，但希望能对某人有所帮助。

将 SQL 结果优化为 ScreenWriter

Optimize SQL result to ScreenWriter

mysql

sql

vb.net

vba

seek