ALT Linux Team development discussions
 help / color / mirror / Atom feed
From: "Dmitry V. Levin" <ldv@altlinux.org>
To: ALT Linux Team development discussions <devel@lists.altlinux.org>
Subject: Re: [devel] уже давно не о документации
Date: Sat, 5 Feb 2011 23:03:30 +0300
Message-ID: <20110205200330.GB1824@altlinux.org> (raw)
In-Reply-To: <4D4DA94F.6010403@altlinux.com>

[-- Attachment #1: Type: text/plain, Size: 2048 bytes --]

On Sat, Feb 05, 2011 at 10:47:27PM +0300, Anton Farygin wrote:
> 05.02.2011 10:09, Aleksey Novodvorsky пишет:
> >5 февраля 2011 г. 7:34 пользователь Anton Farygin написал:
> >>04.02.2011 22:34, Dmitry V. Levin пишет:
> >>>Т.н. карманы можно было бы реализовать 
> >>>ещё в прошлом году.  Параллельная
> >>>обработка заданий была реализована в 
> >>>первую очередь как первый шаг на
> >>>пути к реализации этих карманов.  Потом 
> >>>мы столкнулись с непреодоленными
> >>>до сих пор организационно-техническими 
> >>>преградами, о необходимости
> >>>преодоления которых все 
> >>>заинтересованные, надеюсь, помнят 
> >>>постоянно.
> >>
> >>Т.е. - если я правильно понял этот тонкий 
> >>намёк - у нас сейчас тонкое место
> >>- это отсутствие необходимых серверных 
> >>мощностей и каналов связи.
> >
> >Да. Это  главная и застарелая проблема, 
> >которая не решается парой серверов.
> 
> А каким количеством серверов она 
> решается ?

Это зависит от постановки задачи.  Например, от того, сколько карманов в
единицу времени требуется обрабатывать одновременно (в среднем и
максимально).  Реализация параллельной обработки показала, что большой
объем вычислительных мощностей требуется не только для сборки самих
пакетов на вычислительных узлах, но также и для вычисления нового
состояния репозитория с последующими проверками целостности.  Сейчас все
такие вычисления централизованы, и мне очевидно, что система начинает
заметно проседать уже при параллельном вычислении двух состояний разных
репозиториев.  Очевидно, что система, рассчитанная на _одновременную_
обработку нескольких заданий с вычислением репозиториев, должна
распределять по узлам не только сборку самих пакетов, но и все сложные
вычисления по репозиториям.  Опыт показал, что качество кэширования
радикально влияет на производительность системы, производящей вычисления
над репозиторием.  Это значит, что последовательная обработка двух разных
репозиториев на одном узле заметно снижает производительность этой
обработки.


-- 
ldv

[-- Attachment #2: Type: application/pgp-signature, Size: 198 bytes --]

  reply	other threads:[~2011-02-05 20:03 UTC|newest]

Thread overview: 126+ messages / expand[flat|nested]  mbox.gz  Atom feed  top
2011-02-03 14:02 [devel] О документации Андрей Черепанов
2011-02-03 14:06 ` Andrew Clark
2011-02-03 14:07 ` Andrew Clark
2011-02-03 14:23   ` Андрей Черепанов
2011-02-03 14:38     ` Andrew Clark
2011-02-03 15:33       ` Андрей Черепанов
2011-02-03 18:48         ` Andrew Clark
2011-02-04  5:04           ` REAL
2011-02-04  6:19             ` Alex Gorbachenko
2011-02-04  7:44       ` Sergey Alembekov
2011-02-04  7:46         ` Andrew Clark
2011-02-04 10:55           ` Андрей Черепанов
2011-02-03 14:40     ` Денис Смирнов
2011-02-04  8:44       ` Afanasov Dmitry
2011-02-03 14:37 ` Денис Смирнов
2011-02-03 15:03   ` Андрей Черепанов
2011-02-03 15:08     ` Денис Смирнов
2011-02-03 15:35       ` Андрей Черепанов
2011-02-03 20:47         ` Радик Юсупов
2011-02-03 21:08           ` Денис Смирнов
2011-02-03 21:04         ` Денис Смирнов
2011-02-04  3:25           ` Радик Юсупов
2011-02-04  3:57             ` Денис Смирнов
2011-02-04  4:25               ` Радик Юсупов
2011-02-04  4:49                 ` Радик Юсупов
2011-02-04 11:10                 ` Андрей Черепанов
2011-02-04 11:06           ` Андрей Черепанов
2011-02-04 11:34             ` REAL
2011-02-04 11:17               ` Андрей Черепанов
2011-02-04 11:35               ` Vladislav Zavjalov
2011-02-04 11:45                 ` Андрей Черепанов
2011-02-04 12:15                   ` REAL
2011-02-04 17:44               ` Dmitry V. Levin
2011-02-05  8:06                 ` Денис Смирнов
2011-02-05  8:12                 ` Денис Смирнов
2011-02-04 12:20             ` Igor Vlasenko
2011-02-04 12:27               ` Anton Farygin
2011-02-04 12:31                 ` Igor Vlasenko
2011-02-04 12:48                   ` Anton Farygin
2011-02-04 12:34                 ` Igor Vlasenko
2011-02-04 12:49                   ` Anton Farygin
2011-02-04 12:52                     ` Igor Vlasenko
2011-02-04 13:05                       ` Anton Farygin
2011-02-04 13:10                         ` Igor Vlasenko
2011-02-04 13:23                           ` Anton Farygin
2011-02-04 13:30                             ` Igor Vlasenko
2011-02-04 12:58                     ` Alex Gorbachenko
2011-02-04 13:06                       ` Anton Farygin
2011-02-04 13:34                     ` Андрей Черепанов
2011-02-04 14:14                       ` Anton Farygin
2011-02-04 14:53                         ` Alex Gorbachenko
2011-02-04 14:59                           ` Anton Farygin
2011-02-04 15:38                         ` Андрей Черепанов
2011-02-07  1:33                         ` Денис Смирнов
2011-02-04 12:52                   ` Sergey Alembekov
2011-02-04 13:07                     ` Anton Farygin
2011-02-04 13:25                       ` Sergey Alembekov
2011-02-04 13:32                         ` Anton Farygin
2011-02-04 13:47                           ` Sergey Alembekov
2011-02-04 14:16                             ` Anton Farygin
2011-02-04 14:56                               ` Sergey Alembekov
2011-02-04 15:01                                 ` Anton Farygin
2011-02-04 15:06                                   ` Sergey Alembekov
2011-02-04 15:21                                     ` Anton Farygin
2011-02-04 19:34                                       ` [devel] уже давно не о документации Dmitry V. Levin
2011-02-05  4:34                                         ` Anton Farygin
2011-02-05  7:09                                           ` Aleksey Novodvorsky
2011-02-05 19:47                                             ` Anton Farygin
2011-02-05 20:03                                               ` Dmitry V. Levin [this message]
2011-02-05 20:31                                                 ` Anton Farygin
2011-02-05 20:45                                                   ` Dmitry V. Levin
2011-02-05 20:57                                                     ` Anton Farygin
2011-02-05 21:07                                                       ` Dmitry V. Levin
2011-02-05 21:22                                                         ` Anton Farygin
2011-02-06  4:30                                                 ` Alexey Tourbin
2011-02-06 14:03                                                   ` Денис Смирнов
2011-02-06 14:15                                                     ` Alexey Tourbin
2011-02-07  1:44                                                       ` Денис Смирнов
2011-02-06 21:57                                                   ` Dmitry V. Levin
2011-02-06 23:36                                                 ` Sergey Alembekov
2011-02-07  1:40                                                   ` Денис Смирнов
2011-02-07  9:43                                                     ` Sergey Alembekov
2011-02-07 14:06                                                       ` Денис Смирнов
2011-02-05  8:38                                           ` Alexey Tourbin
2011-02-05 19:46                                             ` Anton Farygin
2011-02-07  1:34                                 ` [devel] О документации Денис Смирнов
2011-02-07  8:40                                   ` Vladimir V. Kamarzin
2011-02-04 13:18                     ` Slava Dubrovskiy
2011-02-04 12:55                   ` Igor Vlasenko
2011-02-04 13:10                     ` Anton Farygin
2011-02-04 13:15                       ` Igor Vlasenko
2011-02-04 12:43                 ` Andrii Dobrovol`s`kii
2011-02-07  1:31                 ` Денис Смирнов
2011-02-07  7:29                   ` Anton Farygin
2011-02-07  9:10                     ` Dmitry V. Levin
2011-02-07  9:24                       ` Anton Farygin
2011-02-07  9:32                         ` REAL
2011-02-07  9:32                           ` Anton Farygin
2011-02-07  9:40                             ` REAL
2011-02-07  9:42                               ` Afanasov Dmitry
2011-02-07  9:51                                 ` REAL
2011-02-07  9:58                                   ` Afanasov Dmitry
2011-02-07 10:10                                     ` REAL
2011-02-07 10:18                                       ` Afanasov Dmitry
2011-02-07 10:34                                       ` Anton Farygin
2011-02-07 11:11                                         ` Afanasov Dmitry
2011-02-07 11:22                                           ` REAL
2011-02-07 13:59                             ` Денис Смирнов
2011-02-07 16:29                               ` Anton Farygin
2011-02-07 19:26                                 ` Денис Смирнов
2011-02-07 19:35                                   ` Anton Farygin
2011-02-07 13:56                         ` Денис Смирнов
2011-02-07 16:23                           ` Anton Farygin
2011-02-07 19:21                             ` Денис Смирнов
2011-02-07 19:27                               ` Anton Farygin
2011-02-07 19:31                                 ` Денис Смирнов
2011-02-07 19:36                                   ` Anton Farygin
2011-02-07 19:42                                     ` Денис Смирнов
2011-02-07 20:16                                       ` Anton Farygin
2011-02-07 13:54                     ` Денис Смирнов
2011-02-07 16:21                       ` Anton Farygin
2011-02-07 19:21                         ` Денис Смирнов
2011-02-07 19:29                           ` Anton Farygin
2011-02-07  1:28               ` Денис Смирнов
2011-02-07  1:23             ` Денис Смирнов
2011-02-05 20:07 ` Michael Shigorin

Reply instructions:

You may reply publicly to this message via plain-text email
using any one of the following methods:

* Save the following mbox file, import it into your mail client,
  and reply-to-all from there: mbox

  Avoid top-posting and favor interleaved quoting:
  https://en.wikipedia.org/wiki/Posting_style#Interleaved_style

* Reply using the --to, --cc, and --in-reply-to
  switches of git-send-email(1):

  git send-email \
    --in-reply-to=20110205200330.GB1824@altlinux.org \
    --to=ldv@altlinux.org \
    --cc=devel@lists.altlinux.org \
    /path/to/YOUR_REPLY

  https://kernel.org/pub/software/scm/git/docs/git-send-email.html

* If your mail client supports setting the In-Reply-To header
  via mailto: links, try the mailto: link

ALT Linux Team development discussions

This inbox may be cloned and mirrored by anyone:

	git clone --mirror http://lore.altlinux.org/devel/0 devel/git/0.git

	# If you have public-inbox 1.1+ installed, you may
	# initialize and index your mirror using the following commands:
	public-inbox-init -V2 devel devel/ http://lore.altlinux.org/devel \
		devel@altlinux.org devel@altlinux.ru devel@lists.altlinux.org devel@lists.altlinux.ru devel@linux.iplabs.ru mandrake-russian@linuxteam.iplabs.ru sisyphus@linuxteam.iplabs.ru
	public-inbox-index devel

Example config snippet for mirrors.
Newsgroup available over NNTP:
	nntp://lore.altlinux.org/org.altlinux.lists.devel


AGPL code for this site: git clone https://public-inbox.org/public-inbox.git