From: "Денис Смирнов" <mithraen@freesource.info> To: ALT Linux Team development discussions <devel@lists.altlinux.org> Subject: Re: [devel] масштабируемость репозитория Date: Sat, 24 Dec 2011 14:21:49 +0400 Message-ID: <20111224102149.GA3266@t60p.mithraen.ru> (raw) In-Reply-To: <20111223231702.GA16236@altlinux.org> [-- Attachment #1: Type: text/plain, Size: 4169 bytes --] On Sat, Dec 24, 2011 at 03:17:03AM +0400, Dmitry V. Levin wrote: DVL> apt масштабируется пропорционально размеру индексов. Так что, строго DVL> говоря, тормознее он становится не столько вследствие импорта из федоры, DVL> сколько от роста пакетной базы. Да. DVL> Есть два независимых метода борьбы с этим торможением: DVL> - Сделать apt существенно быстрее, чтобы эффект торможения не так сильно DVL> раздражал; мы думаем над этим. Самая глобальная проблема в том, что у rpm и apt свои базы, и apt перед рядом операций приходится создавать кэш, вычисляющийся на основе этих двух баз (список установленых пакетов с их метданными, и список пакетов котрые можно установить с их метаданными). Проблема №1 -- ряд операций (таких как apt-cache) выполняют ненужно большой объем работ перед запуском. Проблема №2 -- операции вида apt-get install/remove (одни из самых частых) требуют вычисления этого кэша в любом случае. Возможно ли вычислять его инкрементально? DVL> - Разделить пакетную базы на части. Критериев, по которым можно было бы DVL> делить, я полагаю, каждый может назвать несколько. Самым безболезненным DVL> типом деления является выделение кластеров пакетов по критерию DVL> независимости: если есть некоторое подмножество пакетов, которое не DVL> используется для установки и сборки всех остальных пакетов, то его можно DVL> было бы выделить без риска потерять связность репозитория. Если такое DVL> подмножество достаточно велико, то и компенсация эффекта торможения тоже DVL> будет достаточно заметна. Примером такого кластера, наверное, является DVL> множество debuginfo-пакетов. Интересно, существуют ли какие-то другие DVL> крупные кластеры этого типа? 1. Игры. 2. Дополнительные репозитории с массовыми импортами пакетов какого-то типа: - если собирать весь CPAN, то можно переносить в main/contrib только то, на что у кого-то есть buildrequires; - если собирать массово содержимое hackage -- аналогично, в основном его содержимое будет нужно для сборки с самим собой; - те же массовые импороты библиотек из fedora; 3. В принципе можно вообще попытаться отделить в отдельную компоненту "листья", которе никому не нужны для сборки. Их много. 4. Таки пакеты необходимые только для сборки -- *devel*. Это не ускорит сборочницу, но ускорит работу apt у большинства "обычных пользователей". -- С уважением, Денис http://mithraen.ru/ ---------------------------------------------------------------------------- [-- Attachment #2: Digital signature --] [-- Type: application/pgp-signature, Size: 198 bytes --]
next prev parent reply other threads:[~2011-12-24 10:21 UTC|newest] Thread overview: 25+ messages / expand[flat|nested] mbox.gz Atom feed top 2011-12-23 21:15 [devel] robots VS sisyphus Денис Смирнов 2011-12-23 23:17 ` [devel] масштабируемость репозитория Dmitry V. Levin 2011-12-23 23:40 ` Paul Wolneykien 2011-12-24 10:21 ` Денис Смирнов [this message] 2011-12-24 13:22 ` Alexei Takaseev 2011-12-24 10:33 ` Igor Vlasenko 2011-12-24 10:41 ` thecrux 2011-12-24 15:08 ` thecrux 2011-12-25 15:03 ` Денис Смирнов 2011-12-26 12:02 ` Michael Shigorin 2011-12-25 4:47 ` [devel] robots VS sisyphus Alexey Tourbin 2011-12-25 11:55 ` thecrux 2011-12-27 18:53 ` Alexey Tourbin 2011-12-25 14:53 ` Денис Смирнов 2011-12-27 19:29 ` Alexey Tourbin 2011-12-28 16:02 ` [devel] [JT] " Igor Vlasenko 2011-12-26 11:16 ` [devel] " Sergei Epiphanov 2011-12-27 20:09 ` Alexey Tourbin 2011-12-28 7:27 ` Sergei Epiphanov 2011-12-28 7:50 ` [devel] apt performance (was: robots VS sisyphus) Michael Shigorin 2011-12-28 8:43 ` Sergei Epiphanov 2011-12-26 16:42 ` [devel] robots VS sisyphus Dmitry V. Levin 2011-12-27 18:59 ` Alexey Tourbin 2011-12-27 20:55 ` Alexey Tourbin 2011-12-27 23:57 ` Dmitry V. Levin
Reply instructions: You may reply publicly to this message via plain-text email using any one of the following methods: * Save the following mbox file, import it into your mail client, and reply-to-all from there: mbox Avoid top-posting and favor interleaved quoting: https://en.wikipedia.org/wiki/Posting_style#Interleaved_style * Reply using the --to, --cc, and --in-reply-to switches of git-send-email(1): git send-email \ --in-reply-to=20111224102149.GA3266@t60p.mithraen.ru \ --to=mithraen@freesource.info \ --cc=devel@lists.altlinux.org \ /path/to/YOUR_REPLY https://kernel.org/pub/software/scm/git/docs/git-send-email.html * If your mail client supports setting the In-Reply-To header via mailto: links, try the mailto: link
ALT Linux Team development discussions This inbox may be cloned and mirrored by anyone: git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git # If you have public-inbox 1.1+ installed, you may # initialize and index your mirror using the following commands: public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \ devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru public-inbox-index devel Example config snippet for mirrors. Newsgroup available over NNTP: nntp://lore.altlinux.org/org.altlinux.lists.devel AGPL code for this site: git clone https://public-inbox.org/public-inbox.git