数据库中的可变长度文件写入
Variable-length file writing in databases
出于 learning/experimental 目的，我试图模仿我从研究数据库中学到的一些技术。我很好奇 MySQL（可能还有其他数据库）如何解决这个特定问题。
所以我正在编写一个应用程序，它与其他数据库一样，将记录并排存储在一个文件中。我使用另一个文件来索引记录的位置以快速查找它们。一切正常，直到我需要更新比当前版本本身更长的行。我有一些想法，但 none 似乎对性能太友好了。
假设我想更新 1,000 条记录中的 200 条记录。在我的逻辑中，我将文件光标放在行开始的位置，然后写入数据。假设该行的当前版本有 100 个字节长（下一条记录从第 101 个字节开始）。新数据的长度为 150 字节，因此只需使用文件光标写入即可有效地覆盖下一条记录中的字节。
据我所知，您不能 "push" 从游标在文件中转发数据 - 如果可以的话，这似乎不是最有利于性能的操作。
我可以选择附加新数据并将当前行替换为 NULL 字节。但这似乎是
a) 浪费 space
b) 同样，需要大量的机器工作来重建没有 NULL 字节的文件
然后还有碎片整理选项，但我还没有准备好去那个方向。
有人知道其他数据库是如何处理这个问题的吗？
其他数据库以多种方式处理此问题。我可以回答 MySQL.
第一次将记录写入文件中的space，请多留一点空间。将存储组织成 16KB 的“页面”，其中可以容纳几条记录。但最初将 1/16 space 留空，以允许行扩展。每个页面都按需加载到 RAM 中，其中的记录可能会在页面写回磁盘之前稍微重组一下。
如果页面中的记录超过 space，则它们可能会被拆分。一些记录可能会被重新定位到其他新页面，这些页面可能相距很远。跟踪记录位置的索引不需要相邻的记录。
所有记录重组和拆分留下的空 space 会导致一些碎片，但这可能只占整体存储的一小部分，所以我们不用担心.最终，碎片可能会变得更糟，所以不时将所有记录的新副本制作成一组新页面，更有效地重组，以取代原来的页面是个好主意。您应该多久执行一次此操作取决于您在数据库中完成了多少 activity，因此没有严格的规定。
另一个可能有用的相对较新的新功能称为 sparse files, or hole-punching。传统上，文件的所有连续字节占用磁盘上的 space，无论您是否在这些字节中存储有用的数据。但是如果文件中的间隙可以被视为空闲磁盘 space 呢？那么你就不会关心碎片化了。这并非所有文件系统都支持，并且“漏洞”通常限于文件系统块大小的倍数（例如 4KB）。
MySQL 5.7 在其 page compression 功能中使用打孔。 MySQL 仍将数据存储在 16KB 的页面中，但您可以启用可选的页面内数据压缩。如果压缩留下 4KB 的间隙（文件系统块的大小），它会将其视为一个空洞，并为其释放文件系统存储空间。
还有许多其他可能的技巧。尝试将存储优化到字节是不值得的，因为一旦您这样做，另一个数据更新将要求您撤消它。优化快速更新通常比完美紧凑的存储更好。一切都归结为不同类型效率之间的权衡（例如，速度与存储），您必须就什么对您的数据库更重要做出一些决定。
出于 learning/experimental 目的，我试图模仿我从研究数据库中学到的一些技术。我很好奇 MySQL（可能还有其他数据库）如何解决这个特定问题。
所以我正在编写一个应用程序，它与其他数据库一样，将记录并排存储在一个文件中。我使用另一个文件来索引记录的位置以快速查找它们。一切正常，直到我需要更新比当前版本本身更长的行。我有一些想法，但 none 似乎对性能太友好了。
假设我想更新 1,000 条记录中的 200 条记录。在我的逻辑中，我将文件光标放在行开始的位置，然后写入数据。假设该行的当前版本有 100 个字节长（下一条记录从第 101 个字节开始）。新数据的长度为 150 字节，因此只需使用文件光标写入即可有效地覆盖下一条记录中的字节。
据我所知，您不能 "push" 从游标在文件中转发数据 - 如果可以的话，这似乎不是最有利于性能的操作。
我可以选择附加新数据并将当前行替换为 NULL 字节。但这似乎是 a) 浪费 space b) 同样，需要大量的机器工作来重建没有 NULL 字节的文件
然后还有碎片整理选项，但我还没有准备好去那个方向。
有人知道其他数据库是如何处理这个问题的吗？
其他数据库以多种方式处理此问题。我可以回答 MySQL.
第一次将记录写入文件中的space，请多留一点空间。将存储组织成 16KB 的“页面”，其中可以容纳几条记录。但最初将 1/16 space 留空，以允许行扩展。每个页面都按需加载到 RAM 中，其中的记录可能会在页面写回磁盘之前稍微重组一下。
如果页面中的记录超过 space，则它们可能会被拆分。一些记录可能会被重新定位到其他新页面，这些页面可能相距很远。跟踪记录位置的索引不需要相邻的记录。
所有记录重组和拆分留下的空 space 会导致一些碎片，但这可能只占整体存储的一小部分，所以我们不用担心.最终，碎片可能会变得更糟，所以不时将所有记录的新副本制作成一组新页面，更有效地重组，以取代原来的页面是个好主意。您应该多久执行一次此操作取决于您在数据库中完成了多少 activity，因此没有严格的规定。
另一个可能有用的相对较新的新功能称为 sparse files, or hole-punching。传统上，文件的所有连续字节占用磁盘上的 space，无论您是否在这些字节中存储有用的数据。但是如果文件中的间隙可以被视为空闲磁盘 space 呢？那么你就不会关心碎片化了。这并非所有文件系统都支持，并且“漏洞”通常限于文件系统块大小的倍数（例如 4KB）。
MySQL 5.7 在其 page compression 功能中使用打孔。 MySQL 仍将数据存储在 16KB 的页面中，但您可以启用可选的页面内数据压缩。如果压缩留下 4KB 的间隙（文件系统块的大小），它会将其视为一个空洞，并为其释放文件系统存储空间。
还有许多其他可能的技巧。尝试将存储优化到字节是不值得的，因为一旦您这样做，另一个数据更新将要求您撤消它。优化快速更新通常比完美紧凑的存储更好。一切都归结为不同类型效率之间的权衡（例如，速度与存储），您必须就什么对您的数据库更重要做出一些决定。