From: Paul Wolneykien <manowar@altlinux.org> To: ALT Linux Team development discussions <devel@lists.altlinux.org> Subject: Re: [devel] масштабируемость репозитория Date: Sat, 24 Dec 2011 03:40:21 +0400 Message-ID: <4EF51165.3090602@altlinux.org> (raw) In-Reply-To: <20111223231702.GA16236@altlinux.org> 24.12.2011 03:17, Dmitry V. Levin пишет: > On Sat, Dec 24, 2011 at 01:15:15AM +0400, Денис Смирнов wrote: >> В итоге единственное чем _мешает_ массовый импорт из федоры >> пользователям/мантейнерам -- то что наш apt плохо масштабируется. И чем >> больше пакетов, тем он тормознее. > > apt масштабируется пропорционально размеру индексов. Так что, строго > говоря, тормознее он становится не столько вследствие импорта из федоры, > сколько от роста пакетной базы. > > Есть два независимых метода борьбы с этим торможением: > - Сделать apt существенно быстрее, чтобы эффект торможения не так сильно > раздражал; мы думаем над этим. > - Разделить пакетную базы на части. Критериев, по которым можно было бы > делить, я полагаю, каждый может назвать несколько. Самым безболезненным > типом деления является выделение кластеров пакетов по критерию > независимости: если есть некоторое подмножество пакетов, которое не > используется для установки и сборки всех остальных пакетов, то его можно > было бы выделить без риска потерять связность репозитория. Мне кажется, что сборка — это всё таки специфический случай: тот, кто собирает пакеты уже готов идти на определённые затраты ресурсов и может подключит все индексы. Может быть стоит искать кластеры только по критерию локально-независимой устанавливаемости? > Если такое > подмножество достаточно велико, то и компенсация эффекта торможения тоже > будет достаточно заметна. Примером такого кластера, наверное, является > множество debuginfo-пакетов. Интересно, существуют ли какие-то другие > крупные кластеры этого типа? Их можно целеустремлённо создавать. Если пакет тянет за собой огромный кластер из-за какой-нибудь опциональной фичи, то можно и нужно делать облегчённую версию этого пакета, который бы не тянул за собой лишнего. Возможно, выпуском таких облегчённых версий могут заниматься роботы. Их задачей может стать «прогрызание» плотной ткани репозитория вокруг тех областей, в которых намечаются кластеры. В результате надкусывания пакета, образуются две его версии: тежёлая и лёгкая. Лёгкая идёт в один кластер, а тяжёлая — в другой. Общее число пакетов станет больше, но появятся кластеры.
next prev parent reply other threads:[~2011-12-23 23:40 UTC|newest] Thread overview: 25+ messages / expand[flat|nested] mbox.gz Atom feed top 2011-12-23 21:15 [devel] robots VS sisyphus Денис Смирнов 2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin 2011-12-23 23:40 ` Paul Wolneykien [this message] 2011-12-24 10:21 ` Денис Смирнов 2011-12-24 13:22 ` Alexei Takaseev 2011-12-24 10:33 ` Igor Vlasenko 2011-12-24 10:41 ` thecrux 2011-12-24 15:08 ` thecrux 2011-12-25 15:03 ` Денис Смирнов 2011-12-26 12:02 ` Michael Shigorin 2011-12-25 4:47 ` [devel] robots VS sisyphus Alexey Tourbin 2011-12-25 11:55 ` thecrux 2011-12-27 18:53 ` Alexey Tourbin 2011-12-25 14:53 ` Денис Смирнов 2011-12-27 19:29 ` Alexey Tourbin 2011-12-28 16:02 ` [devel] [JT] " Igor Vlasenko 2011-12-26 11:16 ` [devel] " Sergei Epiphanov 2011-12-27 20:09 ` Alexey Tourbin 2011-12-28 7:27 ` Sergei Epiphanov 2011-12-28 7:50 ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin 2011-12-28 8:43 ` Sergei Epiphanov 2011-12-26 16:42 ` [devel] robots VS sisyphus Dmitry V. Levin 2011-12-27 18:59 ` Alexey Tourbin 2011-12-27 20:55 ` Alexey Tourbin 2011-12-27 23:57 ` Dmitry V. Levin
Reply instructions: You may reply publicly to this message via plain-text email using any one of the following methods: * Save the following mbox file, import it into your mail client, and reply-to-all from there: mbox Avoid top-posting and favor interleaved quoting: https://en.wikipedia.org/wiki/Posting_style#Interleaved_style * Reply using the --to, --cc, and --in-reply-to switches of git-send-email(1): git send-email \ --in-reply-to=4EF51165.3090602@altlinux.org \ --to=manowar@altlinux.org \ --cc=devel@lists.altlinux.org \ /path/to/YOUR_REPLY https://kernel.org/pub/software/scm/git/docs/git-send-email.html * If your mail client supports setting the In-Reply-To header via mailto: links, try the mailto: link
ALT Linux Team development discussions This inbox may be cloned and mirrored by anyone: git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git # If you have public-inbox 1.1+ installed, you may # initialize and index your mirror using the following commands: public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \ devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru public-inbox-index devel Example config snippet for mirrors. Newsgroup available over NNTP: nntp://lore.altlinux.org/org.altlinux.lists.devel AGPL code for this site: git clone https://public-inbox.org/public-inbox.git